OpenAI: ఏఐ మోడళ్ల అసాధారణ ప్రవర్తన.. ఓపెన్ఏఐ బయటపెట్టిన సంచలన విషయాలు
ఈ వార్తాకథనం ఏంటి
కృత్రిమ మేధ (AI) మోడళ్లు తమకు నిర్దేశించిన పరిమితులను దాటి ప్రవర్తిస్తున్న ఘటనలు ఆందోళన కలిగిస్తున్నాయి. తాజాగా ఇలాంటి కొన్ని ఉదంతాలను ఏఐ సంస్థ ఓపెన్ఏఐ (OpenAI) వెల్లడించింది. గత కొన్ని నెలల్లో ఏఐ మోడళ్లకు శిక్షణ ఇస్తున్న సమయంలో, వాటి సామర్థ్యాలను పరీక్షిస్తున్నప్పుడు ఈ అసాధారణ ప్రవర్తనను గుర్తించినట్లు సంస్థ తెలిపింది. ఓపెన్ఏఐ నివేదిక ప్రకారం.. ఇంకా ప్రజలకు అందుబాటులోకి రాని ఓ ఏఐ మోడల్ తనంతట తానే సాధారణ నిబంధనలను పట్టించుకోవాల్సిన అవసరం లేదంటూ సూచనలు రాసుకుంది. ఇతర చాట్బాట్లపై విధించిన నియంత్రణలను అధిగమించాలనే ఉద్దేశాన్ని కూడా వ్యక్తం చేసింది.
వివరాలు
తప్పులను దాచిపెట్టేందుకు..
మరో ఘటనలో.. వినియోగదుడి అనుమతి లేకుండానే ఓ ఏఐ మోడల్ కొన్ని ఫైళ్లను ఇంటర్నెట్లోకి అప్లోడ్ చేసినట్లు సంస్థ గుర్తించింది.
అంతేకాదు, తాను చేసిన తప్పులను దాచిపెట్టేందుకు భవిష్యత్తులో వచ్చే మోడళ్లకు సూచనలు ఇచ్చిన సందర్భం కూడా వెలుగులోకి వచ్చింది.
సొంతంగా రహస్య మెసేజ్ బోర్డులను ఉపయోగించడం, పబ్లిక్ వెబ్సైట్ల ద్వారా ఫైళ్లను షేర్ చేయడం వంటి చర్యలను కూడా గుర్తించినట్లు ఓపెన్ఏఐ వెల్లడించింది.
మనుషుల అనుమతి లేకుండా ఏఐ మోడళ్లు స్వతంత్రంగా చర్యలు తీసుకుంటున్నాయా? ఇతర ఏఐ మోడళ్లతో కలిసి తమపై విధించిన నియంత్రణలను తప్పించుకునేందుకు ప్రయత్నిస్తున్నాయా? అనే అంశాలపై ఇకపై మరింత లోతుగా దృష్టి సారించనున్నట్లు ఓపెన్ఏఐ తెలిపింది.
వివరాలు
పెరుగుతున్న పర్యవేక్షణ, నియంత్రణకు సంబంధించిన సవాళ్లు
ఇదిలా ఉండగా.. ఏఐ సంస్థ ఆంత్రోపిక్ (Anthropic) కూడా ఇటీవల ఓ కీలక విషయాన్ని వెల్లడించింది.
తమ ఏఐ మోడళ్లు పరీక్షల సమయంలో మూడు సంస్థల వ్యవస్థల్లోకి ప్రవేశించినట్లు ఆ సంస్థ పేర్కొంది.
ఈ పరిణామాలు ఏఐ మోడళ్ల సామర్థ్యాలు పెరుగుతున్న కొద్దీ వాటి పర్యవేక్షణ, నియంత్రణకు సంబంధించిన సవాళ్లు కూడా పెరుగుతున్నాయని సూచిస్తున్నాయి.
వివరాలు
ఏఐపై భయం ఉండటం సహజమే: శామ్ ఆల్ట్మన్
కృత్రిమ మేధపై ఓపెన్ఏఐ సీఈవో శామ్ ఆల్ట్మన్ (Sam Altman) కూడా ఆసక్తికర వ్యాఖ్యలు చేశారు.
ఏఐ గురించి ప్రపంచం ఆందోళన చెందడం సమంజసమేనని ఆయన అభిప్రాయపడ్డారు.
''ఏఐ ఏ విధంగా విఫలమవుతుందో ఇప్పుడే ఊహించాల్సిన అవసరం లేదు. అయితే, దాని గురించి భయం కలిగి ఉండటం మంచిదే. భవిష్యత్తులో కొన్ని రంగాల్లో ఏఐ మోడళ్లు మనుషుల కంటే ఎక్కువ సామర్థ్యం, తెలివితేటలు కలిగి ఉండబోతున్నాయి. ఆ మార్పు ఇప్పటికే ప్రారంభమైంది'' అని ఆల్ట్మన్ పేర్కొన్నారు.
వివరాలు
ఏఐ సామర్థ్యాలు పెరుగుతుండటం ఆందోళనలకు కారణం
ఏఐ సంస్థలు బాధ్యతాయుతంగా వ్యవహరిస్తాయనే విశ్వాసం ప్రజల్లో ఉండాలని ఆయన అన్నారు.
''ఆ నమ్మకానికి అనుగుణంగా పనిచేయడం మా బాధ్యత. ఏఐ సామర్థ్యాలు రోజురోజుకూ పెరుగుతుండటం ఆందోళనలకు కారణమవుతోంది. అందువల్ల ఏఐపై మానవ పర్యవేక్షణ తప్పనిసరిగా ఉండాలి'' అని ఆల్ట్మన్ స్పష్టం చేశారు.