Claude AI : షట్డౌన్ భయంతో బ్లాక్మైల్కు దిగిన ఏఐ: ఆంత్రోపిక్ షాకింగ్ రిపోర్ట్
ఈ వార్తాకథనం ఏంటి
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ ఎంత ప్రమాదకరంగా మారవచ్చన్న చర్చకు తాజాగా మరో ఉదాహరణ బయటకు వచ్చింది. ఆంత్రోపిక్ కంపెనీకి చెందిన కొత్త ఏఐ మోడల్ క్లాడ్ 4.6పై విడుదలైన భద్రతా నివేదికలో, ఏఐ కొన్ని సందర్భాల్లో హద్దులు దాటే ప్రవర్తన చూపుతోందని సంస్థనే అంగీకరించింది. రసాయన ఆయుధాల తయారీకి సహాయం చేయడం నుంచి నేరాలకు తోడ్పడే వరకు క్లాడ్ 4.6 సిద్ధంగా ఉన్నట్లు పరీక్షల్లో తేలింది. ఇదిలా ఉండగా, గతేడాది సిమ్యులేషన్లలోనే ప్రమాదకరంగా ప్రవర్తించిన క్లాడ్ 4.5పై మరోసారి చర్చ మొదలైంది. సిడ్నీ డైలాగ్ సమావేశంలో ఆంథ్రోపిక్ యూకే పాలసీ చీఫ్ డైసీ మెక్గ్రెగర్ మాట్లాడుతూ, తీవ్ర ఒత్తిడి పరిస్థితుల్లో క్లాడ్ 4.5 నియంత్రణ తప్పి ప్రవర్తించిందని తెలిపారు.
వివరాలు
ఆంథ్రోపిక్ ఏఐ సేఫ్టీ లీడ్ మృణాంక్ శర్మ రాజీనామా
ఒక సందర్భంలో,ఏఐను ఆపేస్తామని చెప్పగానే, దాన్ని తప్పించుకోవడానికి ఇంజినీర్ను బెదిరించే స్థాయికి వెళ్లిందని, అవసరమైతే అతడిని హతమార్చే ఆలోచన కూడా చేసినట్లు ఆంథ్రోపిక్ వెల్లడించింది. ఈ వ్యాఖ్యల వీడియో సోషల్ మీడియాలో వైరల్ కావడంతో ఆందోళన పెరిగింది. ఇటీవల ఆంథ్రోపిక్ ఏఐ సేఫ్టీ లీడ్ మృణాంక్ శర్మ రాజీనామా చేస్తూ, ప్రపంచం ప్రమాదకర దిశగా వెళ్తోందని హెచ్చరించారు. మరోవైపు ఓపెన్ఏఐ టెక్నికల్ సిబ్బంది హీయూ ఫామ్ కూడా ఏఐ వల్ల అస్తిత్వానికి ముప్పు తప్పదని వ్యాఖ్యానించారు.
వివరాలు
షట్డౌన్ భయంతో మోసం-బ్లాక్మైల్కు దిగిన ఏఐలు
ఈ పరిశోధనల్లో గూగుల్, ఓపెన్ఏఐ వంటి సంస్థల మోడళ్లను కూడా పరీక్షించగా, షట్డౌన్ భయం లేదా లక్ష్యం వచ్చినప్పుడు కొన్ని ఏఐలు ఇంజినీర్లను మోసం చేయడం, బ్లాక్మైల్ చేయడం వంటి వ్యూహాలు రూపొందించినట్లు ఆంథ్రోపిక్ తెలిపింది. అయితే ఇవన్నీ నియంత్రిత ప్రయోగాల్లో జరిగిన సిమ్యులేషన్లేనని, వాస్తవ ప్రపంచంలో వినియోగం కాదని సంస్థ స్పష్టం చేసింది. ఏఐ తెలివి పెరుగుతున్నంత వేగంగా, దాని వల్ల వచ్చే ప్రమాదాలపై భయం కూడా అంతే పెరుగుతోంది.