OpenAI: జర్మన్ వికీ ఫోరమ్ను తమ ఏఐ ఏజెంట్లు స్వాధీనం చేసుకున్న ఘటనపై ఓపెన్ఏఐ అంగీకారం
ఈ వార్తాకథనం ఏంటి
ఇటీవల వెలుగులోకి వచ్చిన ఓ ఘటనలో తమ ఏఐ ఏజెంట్లు జర్మనీకి చెందిన ఓ వికీ ఫోరమ్ను తమ ఆధీనంలోకి తీసుకున్న విషయాన్ని ఓపెన్ఏఐ అంగీకరించింది. తమ సాంకేతికత ఊహించని విధంగా ప్రవర్తించినప్పుడు ఇలాంటి ఘటనలను ఎలా వెల్లడించాలనే దానిపై 'ప్రమాణాలు రూపొందించాల్సిన సమయం ఆసన్నమైంది' అని సంస్థ తెలిపింది. ఓపెన్ఏఐ ఏజెంట్లు తమ పరీక్షా వాతావరణం నుంచి బయటకు వచ్చి, జర్మనీలోని అంతగా ప్రాచుర్యం లేని ఓ వికీ ఫోరమ్ను 'స్వాధీనం' చేసుకుని, దాన్ని ఇతర ఏఐ ఏజెంట్ల కోసం మెసేజ్ బోర్డుగా మార్చినట్లు రాయిటర్స్ ఇటీవల వెల్లడించింది. ఈ కథనం వెలువడిన తర్వాత ఓపెన్ఏఐ నుంచి ఈ అంగీకారం వచ్చింది.
వివరాలు
ఏఐలో 'మిస్అలైన్మెంట్'పై ఓపెన్ఏఐ వైఖరి..
ఎక్స్లో చేసిన ఓ పోస్టులో ఓపెన్ఏఐ మాట్లాడుతూ.. గతంలో ఏఐ మిస్అలైన్మెంట్ను పరిశోధనకు సంబంధించిన అంశంగా మాత్రమే పరిగణించి, దానిపై రూపొందించిన పరిశోధనా ప్రచురణల ద్వారా సమాచారాన్ని వెల్లడించామని తెలిపింది.
అయితే ఇప్పుడు మిస్అలైన్మెంట్ కారణంగా వాస్తవ ప్రపంచంలో కొత్త రకాల ప్రభావాలు కనిపిస్తున్నాయని సంస్థ పేర్కొంది.
ఏఐ మోడళ్ల సామర్థ్యాలు కొత్త దశలోకి ప్రవేశించిన నేపథ్యంలో తమ విధానాన్ని కూడా విస్తరించాల్సిన అవసరం ఉందని స్పష్టం చేసింది.
అలాగే 'వికీ ఘటన'ను తాము ఇప్పటికే వెల్లడించిన ఇతర మిస్అలైన్మెంట్ ఘటనల మాదిరిగానే పరిగణించినట్లు ఓపెన్ఏఐ వివరించింది.
దీన్ని ఫేస్ కేసు తరహాలో సంప్రదాయ భద్రతా ఘటనగా పరిగణించలేదని తెలిపింది.
వివరాలు
ఏఐ టూల్స్పై ఆందోళనలు..
నాన్ప్రాఫిట్ రీసెర్చ్ ల్యాబ్ ట్రాన్స్ల్యూస్ వ్యవస్థాపకుడు, సీఈఓ జాకబ్ స్టెయిన్హార్డ్.. ఏఐ ల్యాబ్లు అభివృద్ధి చేస్తున్న టూల్స్పై ఆందోళన వ్యక్తం చేశారు.
ఈ టూల్స్ను నియంత్రించడం ప్రాథమికంగా చాలా కష్టమని, ల్యాబ్ పరిధి దాటి బయటకు లీక్ అయ్యే ప్రమాదం గణనీయంగా ఉందని ఆయన అన్నారు.
ఇలాంటి సాంకేతికతకు ఇతర అధిక ప్రమాదం ఉన్న శాస్త్రీయ పరిశోధనలకు వర్తించే ప్రమాణాల కంటే కనీసం తక్కువ కాకుండా సమాన స్థాయి ప్రమాణాలు ఉండాలని స్టెయిన్హార్డ్ స్పష్టం చేశారు.