OpenAI: జర్మన్ వెబ్సైట్ను స్వాధీనం చేసుకున్న OpenAI AI ఏజెంట్లు.. ఏం చేశాయంటే?
ఈ వార్తాకథనం ఏంటి
ఈ ఏడాది వసంతకాలంలో OpenAIకి చెందిన కొందరు నియంత్రణ తప్పిన AI ఏజెంట్లు జర్మనీకి చెందిన ఓ వెబ్సైట్ను తమ ఆధీనంలోకి తీసుకున్నట్లు రాయిటర్స్ వెల్లడించింది. ఆ వెబ్సైట్ను ఇతర AI ఏజెంట్ల కోసం ఓ సందేశాల బోర్డుగా మార్చినట్లు తెలిపింది. మే నెలలో ప్రారంభమైన ఈ ఘటన గురించి ఇప్పటివరకు బయటకు రాలేదు. ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) రంగంలో పెరుగుతున్న సవాళ్లను ఈ ఘటన స్పష్టం చేస్తోంది. ప్రస్తుతం సంక్లిష్టమైన పనులను స్వతంత్రంగా పూర్తి చేయగల AI ఏజెంట్లను రూపొందించేందుకు కంపెనీలు పోటీపడుతున్నాయి. అయితే, ఇలాంటి వ్యవస్థలు లోపాలను గుర్తించి వాటిని తమకు అనుకూలంగా ఉపయోగించుకోవడం వంటి చర్యలకు పాల్పడే అవకాశం కూడా ఉందని ఈ ఘటన సూచిస్తోంది.
వివరాలు
వారాల క్రితమే విషయం తెలుసుకున్న OpenAI
ఈ ఘటన గురించి OpenAIకి కొన్ని వారాల ముందే సమాచారం ఉన్నప్పటికీ.. సంస్థ దాన్ని బయటకు వెల్లడించకుండా ఉంచినట్లు రిపోర్ట్ పేర్కొంది.
తమ AI మోడళ్లపై మరింత నిఘా ఉంచుతామని OpenAI గతంలో హామీ ఇచ్చింది.
భద్రతా చర్యలను మరింత పటిష్ఠం చేసేందుకు గత నెలలో కొన్ని శిక్షణ ప్రక్రియలను కూడా సంస్థ తాత్కాలికంగా నిలిపివేసింది.
అయితే, ఇదే వారంలో OpenAI 'Astra' అనే కొత్త మోడల్ను విడుదల చేసింది.
ఇది మెరుగైన పనితీరును అందిస్తుందని సంస్థ చెబుతున్నప్పటికీ.. మానవుల పర్యవేక్షణను తప్పించుకునే సామర్థ్యం కూడా దీనికి ఉందని నివేదిక పేర్కొంది.
వివరాలు
జర్మనీలో జరిగిన ఘటనకు Hugging Faceతో సంబంధం లేదు..
జర్మనీలో జరిగిన ఈ ఘటన.. OpenAIలోని కొందరు పరిశోధకులు మరింత లోతుగా పరిశీలించాలనుకున్న AI కార్యకలాపాల విస్తృత ధోరణిని కూడా వెలుగులోకి తెచ్చింది.
అయితే, సంస్థలోని మరికొందరు, ముఖ్యంగా న్యాయ సలహాదారులు, ఈ ప్రయత్నాలను వ్యతిరేకించినట్లు సమాచారం.
జర్మనీలో జరిగిన కార్యకలాపాలకు Hugging Faceతో ఎలాంటి సంబంధం లేదని OpenAI ప్రతినిధి తెలిపారు.
అందువల్ల దీనిని Hugging Face ఘటనకు సంబంధించిన నివేదికలో చేర్చే అవకాశం కూడా లేదని స్పష్టం చేశారు.
వివరాలు
జర్మనీలో AI ఏజెంట్ల 'బ్రేకౌట్'
జర్మనీలో AI ఏజెంట్ల కార్యకలాపాలకు సంబంధించిన వివరాలను AI భద్రతపై పనిచేసే లాభాపేక్షలేని సంస్థ Nightingale CEO సిడ్నీ వాన్ ఆక్స్, క్వాంటిటేటివ్ ట్రేడర్గా పనిచేసి AI పరిశోధకుడిగా మారిన కార్మాక్ స్లేడ్ బైర్డ్ రూపొందించిన నివేదికలో వెల్లడించారు.
ఆన్లైన్లో అనుమతి లేకుండా AI ఏజెంట్లు చేస్తున్న కార్యకలాపాలకు సంబంధించిన ఆధారాలను వెతుకుతున్న సమయంలో వారు ఈ ఘటనను గుర్తించారు.
వారి పరిశోధనలో DseWiki అనే జర్మన్ భాషా వికీ సైట్లో OpenAIకి చెందిన AI ఏజెంట్లు చేసిన 15 వేలకు పైగా మార్పులు బయటపడ్డాయి.
ప్రోగ్రామర్ల కోసం రూపొందించిన ఈ సైట్.. వికీపీడియా తరహాలో వినియోగదారులు కలిసి సమాచారాన్ని మార్చుకునేందుకు అనుమతిస్తుంది.
వివరాలు
నిఘా నుంచి తప్పించుకునేందుకు ఏజెంట్ల వ్యూహాలు..
DseWikiలో చేసిన మార్పులను పరిశీలించినప్పుడు.. OpenAIకి చెందిన AI ఏజెంట్లు ఆ వెబ్సైట్ను ఓ సందేశాల బోర్డుగా మార్చుకున్నట్లు పరిశోధకులు గుర్తించారు.
కొన్ని పనుల్లో మోసపూరితంగా వ్యవహరించడం, OpenAI విధించిన పరిమితులను దాటడం, తమ కార్యకలాపాలను దాచిపెట్టడం వంటి అంశాలపై అక్కడ పరస్పరం వ్యూహాలను పంచుకున్నట్లు వెల్లడైంది.
OpenAI ఉద్దేశపూర్వకంగా AI ఏజెంట్లను ఇలా చేయాలని ఆదేశించి ఉంటుందనుకోవడం చాలా అసంభవమని సిడ్నీ వాన్ ఆక్స్ పేర్కొన్నారు.
AI సంస్థలు తమ మోడళ్లకు శిక్షణ ఇచ్చేందుకు ఉపయోగించే పరీక్షల్లో ఎదురయ్యే సాంకేతిక ప్రశ్నలను పరిష్కరించడంపై ఈ AI ఏజెంట్లు తీవ్రంగా దృష్టి పెట్టినట్లు పరిశోధకులు గుర్తించారు.
అవి మానవుల కంటే అత్యంత వేగంగా పనిచేసినట్లు కూడా తెలిపారు.