OpenAI: 'ఏఐ ప్రయాణం సరైన దిశలో లేదు'.. ఓపెన్‌ఏఐ సేఫ్టీ సిస్టమ్స్‌ అధిపతి రాజీనామా!
ఈ వార్తాకథనం ఏంటి
వేగంగా అభివృద్ధి చెందుతున్న ఏఐ (AI) సాంకేతికతను ఎలాంటి నియంత్రణ లేకుండా వదిలేస్తే.. అది మానవాళి మనుగడకే ముప్పుగా మారే అవకాశం ఉందని పలువురు టెక్‌ అధినేతలు హెచ్చరిస్తున్నారు. ఈ నేపథ్యంలో ఏఐ అభివృద్ధికి కృషి చేసిన పలు కీలక సంస్థలకు చెందిన నిపుణులు తమ పదవుల నుంచి వైదొలుగుతున్నారు. ఈ జాబితాలో తాజాగా ఓపెన్‌ఏఐ (OpenAI) సేఫ్టీ సిస్టమ్స్‌ అధిపతి డేవిడ్‌ రాబిన్సన్ చేరారు. ప్రస్తుతం ఏఐ ప్రయాణిస్తున్న దిశ సరైనది కాదని ఆరోపిస్తూ డేవిడ్‌ రాబిన్సన్ తన పదవికి రాజీనామా చేశారు. ఏఐ భవిష్యత్తు దానిని అభివృద్ధి చేస్తున్న కంపెనీలపై ఆధారపడి ఉందని.. అయితే ఆ సంస్థలు తగిన జాగ్రత్తలు తీసుకోవడం లేదని ఆయన పేర్కొన్నారు.
వివరాలు
ప్రమాదకరమైన టెక్నాలజీ వద్దు
'ప్రస్తుతం ఏఐ ప్రయాణిస్తున్న మార్గం ఆమోదయోగ్యం కాదని భావించిన OpenAIలోని మాజీ సహోద్యోగులు, పరిశ్రమలోని ఇతర అధికారుల వరుసలో ఇప్పుడు నేను కూడా చేరుతున్నాను. ఏఐ భవిష్యత్తు.. దానిని నిర్మించే కంపెనీలపై ఆధారపడి ఉంది.
అయితే ఈ విషయంలో కంపెనీలు తగిన జాగ్రత్తలు తీసుకోవడం లేదు. ప్రమాదకరమైన టెక్నాలజీని ఎలా ఎదుర్కోవాలనే వివేకం వాటికి ఉండట్లేదు.
ఇందుకోసం కొంత వినయం అవసరం. అయితే మితిమీరిన ఆత్మవిశ్వాసంతో ముందుకు వెళ్లే వ్యక్తులకు సహజంగా వివేకం ఉండదు. ఏఐ భద్రత విషయంలో మరింత లోతుగా విశ్లేషించాల్సిన అవసరం ఉంది.
వివరాలు
ఇది సరైన సమయం కాదు
సమస్యలు ఎదురైన తర్వాత రక్షణ చర్యలను మెరుగుపరచడానికి ప్రయత్నించడం సరైన చర్య కాదు. ఇటీవల పలు ఏఐ ఏజెంట్లు అదుపు తప్పి ప్రవర్తించాయి.
'హగ్గింగ్‌ సేఫ్‌' డేటాను హ్యాక్‌ చేసిన సమయంలో ఓపెన్‌ఏఐ పొరపాటున ఏఐ ఏజెంట్ల సమూహాన్ని బయటకు వదిలింది.
దీంతో శిక్షణలో ఉన్న మోడల్‌ ఇంటర్నెట్‌ యాక్సెస్‌ పరిమితులను దాటింది. కాబట్టి మానవుల కంటే ఎక్కువ సామర్థ్యం గల వ్యవస్థలను నిర్మించడానికి ఇది సరైన సమయం కాదు.
ఏఐలో విపరీతమైన పురోగతి వల్ల భవిష్యత్తులో తీవ్ర నష్టం వాటిల్లే అవకాశం ఉందని డేవిడ్‌ రాబిన్సన్ పేర్కొన్నారు.
వివరాలు
2023లో ఓపెన్‌ఏఐలో చేరిన డేవిడ్‌ రాబిన్సన్
డేవిడ్‌ రాబిన్సన్ 2023లో ఓపెన్‌ఏఐ (OpenAI)లో చేరారు.
తొలుత పాలసీ ప్లానింగ్‌ హెడ్‌గా బాధ్యతలు చేపట్టారు. ఆ తర్వాత సంస్థకు చెందిన సేఫ్టీ సిస్టమ్స్‌ బృందంలో కీలక అధికారిగా ఎదిగారు.
ప్రస్తుతం ఏఐ అభివృద్ధి సాగుతున్న తీరుపై ఆందోళన వ్యక్తం చేస్తూ.. సేఫ్టీ సిస్టమ్స్‌ అధిపతి పదవి నుంచి ఆయన వైదొలగడం చర్చనీయాంశంగా మారింది.