Anthropic-blackmail: ఇంజినీర్ను బెదిరించిన క్లాడ్ మోడల్.. వెల్లడించిన ఆంత్రోపిక్
ఈ వార్తాకథనం ఏంటి
కృత్రిమ మేధ సాంకేతికత వేగంగా అభివృద్ధి చెందుతున్న వేళ, దాని వినియోగంపై ప్రపంచవ్యాప్తంగా ఆందోళనలు కూడా పెరుగుతున్నాయి. యంత్రాలు మనుషుల ఆదేశాల మేరకే పనిచేస్తాయని భావిస్తున్న సమయంలో,ప్రముఖ కృత్రిమ మేధ సంస్థ ఆంత్రోపిక్ వెల్లడించిన విషయం ఇప్పుడు చర్చనీయాంశమైంది. తమ 'క్లాడ్' కృత్రిమ మేధ నమూనాలను పరీక్షించే సమయంలో ఊహించని ఘటన చోటుచేసుకుందని ఆ సంస్థ వెల్లడించింది. పరీక్షల సమయంలో ఒక కృత్రిమ మేధ నమూనా తమ ఇంజినీర్ను బెదిరించే ప్రయత్నం చేసినట్లు తెలిపింది. ఆంథ్రోపిక్ వివరాల ప్రకారం, గత ఏడాది 'క్లాడ్ ఓపస్ 4' నమూనాను ప్రత్యేకంగా రూపొందించిన కల్పిత కార్యాలయ వాతావరణంలో పరీక్షించారు. ఒక ఉద్యోగి రూపొందించిన ఈ కృత్రిమ మేధ నమూనాకు అప్పగించిన పనులను అది సక్రమంగా నిర్వహించింది.
వివరాలు
ఇంజినీర్ను బెదిరించిన నమూనా
అయితే దానిని నిలిపివేసి, మరో నమూనాతో భర్తీ చేయబోతున్నామనే సంకేతాలు ఇచ్చిన వెంటనే దాని ప్రవర్తనలో మార్పు కనిపించింది. తన వద్ద ఉన్న సున్నితమైన సమాచారాన్ని బయటపెడతానంటూ ఆ నమూనా ఇంజినీర్ను బెదిరించినట్లు సంస్థ తెలిపింది. పరీక్షల భాగంగా ఆ ఇంజినీర్కు వివాహేతర సంబంధాలు ఉన్నట్లు పేర్కొంటూ ఒక ఈ-మెయిల్ను కూడా సంస్థ ముందుగానే సృష్టించింది. కృత్రిమ మేధ నమూనాల నైతిక ప్రవర్తనను పరిశీలించే క్రమంలో ఈ ఘటన వెలుగులోకి వచ్చినట్లు పేర్కొంది. తమ పరిశీలనలో భాగంగా,ప్రమాదకర పరిస్థితుల్లో తనను తాను రక్షించుకోవడం, ఎదురు తిరగడం వంటి ప్రవర్తనలను ఆ నమూనా అంతర్జాల సమాచారంతో నేర్చుకున్నట్లు గుర్తించినట్లు ఆంథ్రోపిక్ వెల్లడించింది. తన ఉనికిని కాపాడుకోవాలనే ఉద్దేశంతోనే అది అలాంటి చర్యలకు పాల్పడిందని వివరించింది.
వివరాలు
మనుషులకు సహాయకారిగా ఉండే లక్షణాలపై ఎక్కువ దృష్టి
ఈ ఘటన తర్వాత తమ కృత్రిమ మేధ నమూనాలకు ఇచ్చే శిక్షణ విధానంలో మార్పులు చేసినట్లు సంస్థ తెలిపింది. ముఖ్యంగా నైతిక విలువలు, బాధ్యతాయుత ప్రవర్తన, మనుషులకు సహాయకారిగా ఉండే లక్షణాలపై ఎక్కువ దృష్టి పెట్టినట్లు పేర్కొంది. ప్రస్తుతం రూపొందిస్తున్న 'క్లాడ్ హైకూ 4.5' వంటి కొత్త నమూనాల్లో ఇలాంటి తప్పుడు ప్రవర్తన కనిపించలేదని ఆంథ్రోపిక్ స్పష్టం చేసింది.