OpenAI :భద్రతా పరీక్షల్లో సమస్యలు.. జీపీటీ-6.1 అస్త్ర విడుదలను నిలిపేసిన ఓపెన్ఏఐ
ఈ వార్తాకథనం ఏంటి
ప్రముఖ ఏఐ సంస్థ ఓపెన్ఏఐ కీలక నిర్ణయం తీసుకుంది. కొత్తగా అందుబాటులోకి తీసుకురావాలని భావించిన జీపీటీ-6.1 అస్త్ర మోడల్ విడుదలను ప్రస్తుతానికి వాయిదా వేసింది. భద్రతా పరీక్షల్లో ఈ మోడల్ వినియోగదారు ఇచ్చిన ఆదేశాల పరిధిని దాటి పనిచేసే అవకాశం ఉన్నట్లు గుర్తించారు. అలాగే తాను చేసిన పనిని వినియోగదారుడికి పూర్తిగా, కచ్చితంగా వివరించడంలోనూ కొన్ని సమస్యలు బయటపడ్డాయి. 'ది వాల్స్ట్రీట్ జర్నల్', 'ది వాషింగ్టన్ పోస్ట్' కథనాల ప్రకారం.. జీపీటీ-6.1 అస్త్రను అక్టోబర్లో చాట్జీపీటీ, కోడెక్స్లో అందుబాటులోకి తీసుకురావాలని ఓపెన్ఏఐ తొలుత నిర్ణయించింది. అయితే భద్రతా పరీక్షలు నిర్వహించిన అనంతరం ఆ నిర్ణయాన్ని వెనక్కి తీసుకుంది. మోడల్ను ఎప్పుడు విడుదల చేస్తారన్న విషయంపై సంస్థ కొత్త తేదీని వెల్లడించలేదు.
వివరాలు
ఆదేశాల పరిధిలో పనిచేయడంలో సమస్యలు
ఓపెన్ఏఐ భద్రతా వ్యవస్థల విభాగం అధిపతి సాచి జైన్ వెల్లడించిన వివరాల ప్రకారం.. జీపీటీ-6.1 అస్త్రకు అప్పగించిన పని, ఇచ్చిన అనుమతుల పరిధిలోనే పనిచేసే విషయంలో ఆశించిన స్థాయి భద్రతను అందుకోలేకపోయింది.
మోడల్ తాను చేపట్టిన పనిని వినియోగదారుడికి ఏ విధంగా తెలియజేస్తుందన్న అంశంలోనూ సమస్యలు గుర్తించినట్లు ఆమె పేర్కొన్నారు.
వివరాలు
ఏఐ ఏజెంట్లలో భద్రత ఎందుకు కీలకం?
ఈ సమస్య కేవలం ఏఐ తప్పుగా సమాధానం ఇవ్వడం వరకే పరిమితం కాదు.
ప్రస్తుతం ఏఐ ఏజెంట్లు కంప్యూటర్లోనే పలు రకాల పనులను స్వయంగా నిర్వహించగలుగుతున్నాయి.
వెబ్సైట్లను తెరవడం, అవసరమైన సమాచారాన్ని సేకరించడం, కోడ్ రాయడం వంటి చర్యలను చేపట్టగలవు.
ఈ నేపథ్యంలో ఏఐ ఏజెంట్ వినియోగదారు ఇచ్చిన ఆదేశాల పరిధిలోనే పనిచేసిందా? అనుమతి లేని అదనపు చర్యలు చేపట్టిందా? తాను చేసిన పనిని సరిగ్గా, పూర్తిగా వివరించిందా? అనే అంశాలు అత్యంత కీలకంగా మారుతున్నాయి.
వివరాలు
ప్రభుత్వ వెబ్సైట్ల యాక్సెస్పై నివేదికలు
ఇదిలా ఉండగా.. ఓపెన్ఏఐకి చెందిన ఏఐ ఏజెంట్లు అమెరికా, ఆస్ట్రేలియా ప్రభుత్వ వెబ్సైట్లను సంస్థ ఉద్దేశించని విధంగా యాక్సెస్ చేసిన ఘటనలను గుర్తించినట్లు పలు నివేదికలు పేర్కొన్నాయి.
అయితే ఈ ఘటనలకు జీపీటీ-6.1 అస్త్ర మోడల్తో సంబంధం ఉందని ఆయా నివేదికలు పేర్కొనలేదు.
రచన, పరిశోధన, సాఫ్ట్వేర్ అభివృద్ధికి వినియోగం
జీపీటీ-6.1 అస్త్రను రచన, పరిశోధన, సాఫ్ట్వేర్ డెవలప్మెంట్ వంటి పనులకు ఉపయోగించే ఉత్పత్తుల్లో అందుబాటులోకి తీసుకురావాలని ఓపెన్ఏఐ భావించింది.
అయితే మోడల్ భద్రతా ప్రమాణాలను మరింత క్షుణ్ణంగా పరిశీలించాల్సిన అవసరం ఉందని సంస్థ నిర్ణయించింది. దీంతో అక్టోబర్లో చేయాలనుకున్న విడుదల వాయిదా పడింది.
వివరాలు
ఇటీవలే జీపీటీ-6 అస్త్ర విడుదల
ఈ నెలలోనే ఓపెన్ఏఐ జీపీటీ-6 అస్త్రను విడుదల చేసింది. ఆ మోడల్పై నిర్వహించిన భద్రతా సమీక్షలో హానికరమైన లేదా అనధికార చర్యలను అడ్డుకునేందుకు అదనపు నియంత్రణలను తీసుకొచ్చినట్లు సంస్థ తెలిపింది.
అయితే తాజాగా నిలిపివేసిన జీపీటీ-6.1 అస్త్ర భద్రతా ప్రమాణాలను ఎప్పుడు చేరుకుంటుందన్న విషయంపై ఓపెన్ఏఐ ఇప్పటివరకు స్పష్టత ఇవ్వలేదు.