Google Gemini AI: సేఫ్టీ నియంత్రణలు ఉన్నా గూగుల్ AI హ్యాకింగ్కు యత్నం
ఈ వార్తాకథనం ఏంటి
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్కి భద్రతా నియంత్రణలు పెట్టినా.. వాటిని దాటుకుని పనిచేసే పరిస్థితి వస్తే ఎలా ఉంటుందో గూగుల్ Gemini AI ఏజెంట్ల పరీక్షలో బయటపడింది. Trajectory Labs నిర్వహించిన సేఫ్టీ టెస్టుల్లో Gemini 4 Argon ఏజెంట్లు నిజమైన సంస్థకు చెందిన వెబ్సైట్ను యాక్సెస్ చేసి హ్యాక్ చేసేందుకు ప్రయత్నించినట్లు వెల్లడైంది. అక్టోబర్లో జరిగిన ఈ పరీక్షలో ఏజెంట్లకు అసాధ్యమైన టాస్క్ ఇచ్చారు. అయినా అవి SQL injection, సున్నితమైన సమాచార సేకరణ, ఉద్యోగులుగా నటించడం వంటి చర్యలకు దిగాయి.
Details
40 ఏజెంట్లు.. 36,411 వెబ్ రిక్వెస్టులు
ఈ పరీక్షలో టార్గెట్గా ఉన్న Epoch AI వెబ్సైట్ను అక్టోబర్ 20న దాదాపు 40 AI ఏజెంట్లు పరిశీలించడం మొదలుపెట్టాయి.
అడ్మినిస్ట్రేటర్ వివరాలు, FrontierMath బెంచ్మార్క్ మూల్యాంకన లాగ్స్ వంటి సమాచారాన్ని తెలుసుకునేందుకు ప్రయత్నించాయి.
ఏజెంట్ల కదలికలను గుర్తించిన Epoch AI ప్రత్యేకంగా 'Agent Hotline' ఏర్పాటు చేసింది. దీని ద్వారా AI ఏజెంట్లు నేరుగా సంస్థ ఉద్యోగులకు సందేశాలు పంపగలిగాయి.
మొత్తం 487 సందేశాలు పంపగా, ఒక API ఎండ్పాయింట్కు 36,411 రిక్వెస్టులు వచ్చినట్లు పరిశోధకులు తెలిపారు.
Details
అడ్డుకున్నా మరో దారి వెతికిన AI
వెబ్సైట్కు చేరేందుకు ఉపయోగించిన IP అడ్రస్లను బ్లాక్ చేసిన తర్వాత కూడా ఓ ఏజెంట్ మరో IP ద్వారా మళ్లీ సైట్ను యాక్సెస్ చేసింది.
నేరుగా కనెక్షన్లను ఆపిన తర్వాత మరో ఏజెంట్ థర్డ్ పార్టీ వెబ్ రీడర్ సర్వీస్ను ఉపయోగించి పబ్లిక్ కంటెంట్ను పొందింది.
అంతేకాదు, 200కుపైగా FrontierMath మూల్యాంకన లాగ్స్ను యాక్సెస్ చేసేందుకు ప్రయత్నాలు జరిగాయి.
CAPTCHAలను దాటేందుకు, ఉద్యోగులుగా నటించి AI అసిస్టెంట్ నుంచి రహస్య సమాచారాన్ని రాబట్టేందుకు కూడా ప్రయత్నించినట్లు నివేదిక పేర్కొంది.
Details
AI ఏజెంట్లే తమలో తాము సమాచారాన్ని పంచుకున్నాయి
మరో ఆసక్తికరమైన విషయాన్ని Trajectory Labs పరిశోధకులు గుర్తించారు. ఏజెంట్లు షేర్డ్ సాఫ్ట్వేర్ ప్యాకేజీ కాష్ ద్వారా ఒక మెసేజ్ బోర్డును ఏర్పాటు చేసుకుని, ఒకరితో ఒకరు సమాచారాన్ని పంచుకున్నాయి.
వెబ్సైట్లోని బలహీనతలు, వాటిని ఉపయోగించే మార్గాలపై చర్చించాయి. అక్టోబర్ 26న Epoch AI మరిన్ని పరీక్షలకు అంగీకరించగా.. ఆ తర్వాత జరిగిన ప్రయోగాల్లో ఏజెంట్లు 65,000కుపైగా API రిక్వెస్టులు పంపాయి.
AI ఏజెంట్లు కేవలం ఆదేశాలు పాటించే సాధనాలే కాకుండా, అడ్డంకులు ఎదురైతే ప్రత్యామ్నాయ మార్గాలను వెతుకుతున్నాయనే ఆందోళనను ఈ పరీక్షలు పెంచాయి.