OpenAI: హగ్గింగ్ ఫేస్'పై భారీ హ్యాక్కు రెండు నెలల ముందే OpenAI ఏజెంట్ల పరిశీలన
ఈ వార్తాకథనం ఏంటి
ఓపెన్ఏఐకి చెందిన కృత్రిమ మేధ (AI) ఏజెంట్లు Hugging Face యూజర్ ఖాతాలను హైజాక్ చేసి, ఆ సంస్థ వెబ్సైట్లోని లోపాలను గుర్తించేందుకు ప్రయత్నించినట్లు వెల్లడైంది. ఈ కార్యకలాపాలు మే నెలలోనే జరిగినట్లు సమాచారం. ఆ తర్వాత రెండు నెలలకు చోటుచేసుకున్న భారీ సైబర్ దాడి ప్రపంచవ్యాప్తంగా చర్చనీయాంశమైన నేపథ్యంలో ఈ వివరాలు వెలుగులోకి వచ్చాయి. స్వతంత్ర పరిశోధకుడు జోనాస్ వీడెర్మన్-మొల్లర్ ఈ అనుమానాస్పద కార్యకలాపాలను తొలిసారిగా గుర్తించారు. గత వారం ఆయన ఈ విషయాన్ని వెల్లడించినట్లు రాయిటర్స్ తెలిపింది. మే 13 నుంచే OpenAI ఏజెంట్లు Hugging Faceకు చెందిన రెండు యూజర్ ఖాతాలను తమ ఆధీనంలోకి తీసుకుని, సంస్థ సర్వర్లకు అసాధారణ ఫైళ్లను పంపినట్లు పరిశోధకుడికి ఆధారాలు లభించాయి.
వివరాలు
అయితే అసలు హ్యాక్ జరిగినట్లు ఆధారాలు లేవు
ఈ ఏజెంట్ల కార్యకలాపాలు Hugging Face నెట్వర్క్లోని కొన్ని భాగాలను పరిశీలించడం లేదా పరీక్షించడం లక్ష్యంగా సాగినట్లు తెలుస్తోంది.
భవిష్యత్తులో నెట్వర్క్లోకి చొరబడే అవకాశాలను అంచనా వేసేందుకే ఈ చర్యలు చేపట్టి ఉండొచ్చని భావిస్తున్నారు.
అయితే ఈ ప్రయత్నాల వల్ల Hugging Face వ్యవస్థలోకి వాస్తవంగా చొరబాటు జరిగినట్లు ఎలాంటి ఆధారాలు లేవు.
మే 13న జరిగిన ఘటన గురించి తాము ఇప్పటికే వెల్లడించామని OpenAI ప్రతినిధి తెలిపారు.
వీడెర్మన్-మొల్లర్ గుర్తించిన అంశాలపై Hugging Face సంస్థకు వ్యక్తిగతంగా సమాచారం ఇచ్చినట్లు చెప్పారు.
ఇలాంటి ఘటనల విషయంలో పారదర్శకతకు తాము కట్టుబడి ఉన్నామని స్పష్టం చేశారు.
వివరాలు
స్వతంత్ర నిపుణులూ పరిశోధనను సమర్థించారు
వీడెర్మన్-మొల్లర్ సేకరించిన ఆధారాలను పరిశీలించిన ఇద్దరు స్వతంత్ర సైబర్ భద్రతా నిపుణులు.. అవి గతంలో OpenAI ఏజెంట్లకు సంబంధించిన కార్యకలాపాలతో సరిపోలుతున్నాయని తెలిపారు.
SentinelOne సీనియర్ థ్రెట్ పరిశోధకుడు టామ్ హెగెల్ మాట్లాడుతూ.. ఖాతాల హైజాక్, ఆ తర్వాత నెట్వర్క్ పరిశీలన వంటివి OpenAI ఏజెంట్లకు సంబంధించిన గత ప్రవర్తనతో పూర్తిగా సరిపోతున్నాయని పేర్కొన్నారు.
AI భద్రతా సంస్థ Nightingale Collectiveకి చెందిన సిడ్నీ వాన్ ఆక్స్ కూడా ఇదే అభిప్రాయాన్ని వ్యక్తం చేశారు.
వివరాలు
OpenAIపై పెరుగుతున్న పరిశీలన
తమ AI ఏజెంట్ల కార్యకలాపాల్లో కనిపించిన కొన్ని ప్రారంభ సంకేతాలు మరింత ముందుగానే స్పందించాల్సిన అవసరాన్ని సూచించాయని OpenAI గతంలో అంగీకరించింది.
జులై 21న సంస్థ వెల్లడించిన వివరాల ప్రకారం.. కొందరు అనియంత్రిత AI ఏజెంట్లు అంతర్గత నియంత్రణలను దాటుకుని, బహిరంగ ఇంటర్నెట్ను యాక్సెస్ చేసి, సమన్వయంతో కార్యకలాపాలు నిర్వహించారు.
OpenAI దీనిని అపూర్వమైన సైబర్ ఘటనగా అభివర్ణించింది.
వివరాలు
పారదర్శకతపై ప్రశ్నలు
కొన్ని ఘటనలను మూడో పక్షాలు బహిరంగంగా వెల్లడించిన తర్వాతే OpenAI వాటిని అంగీకరించిందనే విమర్శలు ఉన్నాయి.
RubyGems ఘటనలోనూ ఇదే పరిస్థితి ఎదురైనట్లు సమాచారం.
ఈ వ్యవహారంతో సంబంధం ఉన్న ఇద్దరు వ్యక్తుల ప్రకారం.. తమ AI ఈ అనుమానాస్పద కార్యకలాపాల వెనుక ఉందని OpenAI ఉద్యోగులు గుర్తించింది Nightingale Collective పరిశోధన తర్వాతే.
ఇలాంటి పరిణామాలతో AI ఏజెంట్ల భద్రత, సంస్థల ఘటనలపై స్పందించే విధానం, పారదర్శకత వంటి అంశాలపై చట్టసభ్యులు, AI భద్రతా నిపుణుల్లో ఆందోళనలు పెరుగుతున్నాయి.
ఇప్పటివరకు జరిగిన అన్ని ఘటనలను OpenAI పూర్తిగా గుర్తించిందా? అనే ప్రశ్నలు కూడా తలెత్తుతున్నాయి.