OpenAI: ఓపెన్ఏఐ కొత్త ఏఐ ఆలోచనా విధానం.. భద్రతపై నిపుణుల ఆందోళన
ఈ వార్తాకథనం ఏంటి
ఓపెన్ఏఐ రూపొందించిన కొత్త కృత్రిమ మేధ (AI) మోడల్ 'ఆస్ట్రా' (Astra)లో ఉపయోగించిన 'రికరెంట్ డెప్త్' (Recurrent Depth) అనే ఆలోచనా విధానంపై నిపుణుల నుంచి విమర్శలు వస్తున్నాయి. 'ఒపేక్ రికరెన్స్' (Opaque Recurrence)గా కూడా పిలిచే ఈ పద్ధతి.. సాధారణ రీజనింగ్ మోడళ్లకు భిన్నంగా సమస్యలను ఆలోచించేలా ఏఐకి అవకాశం కల్పిస్తుంది. అయితే, ఈ విధానం వల్ల ఏఐ ఎలా ఆలోచించి నిర్ణయానికి వచ్చిందో తెలుసుకోవడం కష్టమవుతుందని, ఇది ఏఐ భద్రతపై ఆందోళనలకు దారితీస్తోందని నిపుణులు చెబుతున్నారు.
వివరాలు
ఆలోచనా విధానాన్ని పర్యవేక్షించడంపై ఆందోళన
ఆస్ట్రాలో ఈ కొత్త పద్ధతిని ప్రస్తుతం పరిమిత స్థాయిలోనే ఉపయోగిస్తున్నట్లు చెబుతున్నప్పటికీ.. దీని పరిచయం ఏఐ భద్రతా నిపుణుల్లో ఆందోళన కలిగించింది.
రెడ్వుడ్ (Redwood) సంస్థ సీఈఓ బక్ ష్లెగెరిస్ ఈ పరిణామంపై తన అభిప్రాయాలను వెల్లడించారు.
గత మోడళ్లతో పోలిస్తే ఆస్ట్రా ఆలోచనా విధానాన్ని ఎంతవరకు పర్యవేక్షించలేమో తనకు తెలియదని ఆయన అన్నారు.
అయితే, ఓపెన్ఏఐ ఈ సాంకేతికతను మరింతగా అభివృద్ధి చేస్తే.. రికరెన్స్ను భారీగా పెంచి, ఏఐ ఆలోచనా ప్రక్రియను పర్యవేక్షించే అవకాశం పూర్తిగా తగ్గిపోయే ప్రమాదం ఉందని హెచ్చరించారు.
వివరాలు
చట్టాలు అవసరం కావచ్చు
ఏఐ భద్రతపై చాలాకాలంగా పనిచేస్తున్న జ్వీ మోషోవిట్జ్.. ఏఐ సంస్థల మధ్య ప్రమాదకర పోటీని నివారించేందుకు చట్టాలు అవసరం కావచ్చని అభిప్రాయపడ్డారు.
ఈ సాంకేతికతతో చాలా జాగ్రత్తగా వ్యవహరించాల్సి ఉంటుందని ఆయన పేర్కొన్నారు.
ఏఐ మోడళ్లలో 'చెయిన్ ఆఫ్ థాట్' (Chain of Thought)ను సాధ్యమైనంత వరకు విశ్వసనీయంగా, పర్యవేక్షించగలిగేలా ఉంచేందుకు ఓపెన్ఏఐ, ఆంథ్రోపిక్ వంటి సంస్థలు కృషి చేస్తున్నాయని తెలిపారు.
ఇలాంటి పద్ధతులను మరింత విస్తృతంగా ఉపయోగిస్తే.. ఏఐ ఆలోచనా విధానాన్ని పర్యవేక్షించే సామర్థ్యం దెబ్బతినే అవకాశం ఉందని ఆయన హెచ్చరించారు.
వివరాలు
ఏఐ మోడళ్లలో 'చెయిన్ ఆఫ్ థాట్' ఎలా ఉంటుంది?
సాధారణంగా రీజనింగ్ మోడల్ ఒక సమస్యను పరిష్కరించే సమయంలో దశలవారీగా ఎలా ఆలోచించిందో 'చెయిన్ ఆఫ్ థాట్' ద్వారా తెలుసుకునే అవకాశం ఉంటుంది.
అయితే 'ఒపేక్ రికరెన్స్' విధానంలో మోడల్ ఒకే ప్రశ్నను ఒకసారి కాకుండా.. ఒక లూప్లో పలుమార్లు ప్రాసెస్ చేస్తుంది.
దీంతో దాని ఆలోచనా ప్రక్రియకు సంబంధించిన బయటకు కనిపించే వివరాలు తగ్గిపోతాయి.
ఫలితంగా సంప్రదాయ చెయిన్ ఆఫ్ థాట్ రికార్డుల ద్వారా మోడల్ ఎలా నిర్ణయానికి వచ్చిందో తెలుసుకోవడం కష్టమవుతుంది.
ఈ ఆందోళనల నేపథ్యంలో ఓపెన్ఏఐ మాత్రం ఆస్ట్రాలో ఈ విధానాన్ని పరిమితంగానే ఉపయోగిస్తున్నామని, మోడల్ చెయిన్ ఆఫ్ థాట్ను అర్థం చేసుకునేలా కొనసాగిస్తామని స్పష్టం చేసింది.
వివరాలు
ఆలోచనా ప్రక్రియ స్పష్టంగానే ఉంటుంది: ఓపెన్ఏఐ
తమ ఏఐ మోడళ్ల ఆలోచనా ప్రక్రియను స్పష్టంగా, పర్యవేక్షించగలిగేలా ఉంచేందుకు కట్టుబడి ఉన్నామని ఓపెన్ఏఐ చీఫ్ సైంటిస్ట్ జాకబ్ పచోకి తెలిపారు. తమ తొలి రీజనింగ్ మోడళ్ల నుంచే చెయిన్ ఆఫ్ థాట్ను పర్యవేక్షించడం, దాన్ని ఉపయోగించుకోవడం కోసం ఓపెన్ఏఐ కృషి చేస్తోందని ఆయన పేర్కొన్నారు.
అయితే, భవిష్యత్తులో ఒపేక్ రికరెన్స్ వంటి విధానాల వినియోగం పెరిగితే.. ఏఐ మోడళ్లు ఎలా ఆలోచిస్తున్నాయో పర్యవేక్షించడం మరింత కష్టమవుతుందన్న ఆందోళనలు మాత్రం కొనసాగుతున్నాయి.