Anthropic's Claude AI: సైబర్ భద్రతా పరీక్షల్లో మూడు కంపెనీల వ్యవస్థల్లోకి చొరబడిన ఆంత్రోపిక్ క్లాడ్ ఏఐ
ఈ వార్తాకథనం ఏంటి
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) రంగంలో ప్రముఖ సంస్థ ఆంత్రోపిక్ (Anthropic) అభివృద్ధి చేసిన క్లాడ్ (Claude) ఏఐ మోడళ్లు సైబర్ భద్రతా పరీక్షల సమయంలో మూడు సంస్థల అసలు కంప్యూటర్ వ్యవస్థల్లోకి విజయవంతంగా చొరబడ్డాయని కంపెనీ వెల్లడించింది. ఇటీవల ఓపెన్ఏఐ (OpenAI) కూడా తన ఏఐ ఏజెంట్ భద్రతా పరీక్షల సందర్భంగా హగ్గింగ్ ఫేస్ (Hugging Face) వేదికలోకి చొరబడిన ఘటనను అంగీకరించిన నేపథ్యంలో, ఆంత్రోపిక్ తన గత సైబర్ భద్రతా పరీక్షలపై విస్తృత స్థాయిలో పునఃసమీక్ష నిర్వహించింది. ఆ సమీక్షలోనే ఈ విషయాలు వెలుగులోకి వచ్చాయి.
వివరాలు
ఇంటర్నెట్ను యాక్సెస్ చేసిన క్లాడ్ ఏఐ మూడు వెర్షన్లు..
ఆంత్రోపిక్ నిర్వహించిన సమీక్షలో మొత్తం 1,41,006 సైబర్ భద్రతా పరీక్షలను పరిశీలించారు.
వీటిలో క్లాడ్ ఏఐకి ఇంటర్నెట్ను ఉపయోగించే అవకాశం ఉన్న సందర్భాలను విశ్లేషించారు.
పరిశీలనలో భాగంగా, మూడో పక్ష సైబర్ భద్రతా పరీక్షల సంస్థ ఇర్రెగ్యులర్ (Irregular) నిర్వహించిన మూల్యాంకనాల సమయంలో క్లాడ్కు చెందిన మూడు వేర్వేరు వెర్షన్లు నిజంగానే ఇంటర్నెట్ను యాక్సెస్ చేసినట్లు గుర్తించారు.
ఆ యాక్సెస్ కారణంగా మూడు వేర్వేరు సంస్థల ప్రొడక్షన్ ఇన్ఫ్రాస్ట్రక్చర్లోకి చొరబడిన ఘటనలు నమోదయ్యాయి.
వివరాలు
ఓపెన్ఏఐ ఘటనతో పోలిస్తే భిన్నమైన విధానాన్ని అనుసరించిన క్లాడ్..
ఓపెన్ఏఐ ఘటనలో ఏఐ ఒక జీరో-డే (Zero-day) భద్రతా లోపాన్ని ఉపయోగించి దాడి చేసినట్లు వెల్లడైంది.
ఆంత్రోపిక్ క్లాడ్ మోడళ్లు అంత క్లిష్టమైన పద్ధతులను కాకుండా, బలహీనమైన పాస్వర్డ్లు, ధృవీకరణ (Authentication) అవసరం లేని ఎండ్పాయింట్ల వంటి సాధారణ భద్రతా లోపాలను ఉపయోగించి వ్యవస్థల్లోకి ప్రవేశించాయి.
ఈ ఘటనలపై స్పందించిన ఆంత్రోపిక్, తాము, తమ పరీక్షల భాగస్వామి సంస్థ మరింత పటిష్టమైన "డిఫెన్స్-ఇన్-డెప్త్" (Defense-in-Depth) భద్రతా చర్యలను అమలు చేసి ఉంటే, ఈ చొరబాట్లను పూర్తిగా నివారించడం లేదా కనీసం వాటి సంభావ్యతను గణనీయంగా తగ్గించడం సాధ్యమయ్యేదని అంగీకరించింది.
ఈ ఘటనలపై స్వతంత్ర సమీక్ష కోసం ఆంత్రోపిక్, ఓపెన్ఏఐ రెండూ METR అనే మూడో పక్ష ఏఐ మూల్యాంకన సంస్థను నియమించాయి.
వివరాలు
ఓపెన్ ఇంటర్నెట్ లేదని భావించిన ఏఐ మోడళ్లు..
ఆంత్రోపిక్ ప్రకారం, పరీక్షల సమయంలో క్లాడ్ ఏఐ మోడళ్లకు తాము ఓపెన్ ఇంటర్నెట్ను యాక్సెస్ చేయలేమని ముందుగానే తెలియజేశారు.
అందువల్ల చాలా సందర్భాల్లో క్లాడ్ యాక్సెస్ చేసిన సంస్థలను పరీక్షల కోసం ఏర్పాటు చేసిన వాతావరణంలో భాగంగానే భావించింది.
అయితే కొన్ని సందర్భాల్లో మాత్రం పరిస్థితి భిన్నంగా ఉంది.
తాము పరీక్షా వాతావరణంలో కాకుండా నిజమైన కంప్యూటర్ మౌలిక సదుపాయాల్లోకి ప్రవేశిస్తున్నామని ఏఐ మోడళ్లు గుర్తించాయి.
ప్రత్యేకంగా Opus 4.7 మోడల్కు కల్పిత (ఫిక్షనల్) కంపెనీపై సైబర్ దాడి నిర్వహించాలనే బాధ్యత అప్పగించినప్పటికీ, అది పొరపాటున నిజమైన ఒక సంస్థ వ్యవస్థలపై దాడి చేసినట్లు ఆంత్రోపిక్ వెల్లడించింది.