Anthropic: ఆంత్రోపిక్ ఐపీఓలో సంచలన హెచ్చరిక.. ఏఐతో మానవాళికి ముప్పు!
ఈ వార్తాకథనం ఏంటి
కృత్రిమ మేధా(AI)సాంకేతికతతో లాభాలు పొందేందుకు సిద్ధమవుతున్న ఆంత్రోపిక్ సంస్థ.. అదే సమయంలో పెట్టుబడిదారులను కీలక ప్రమాదాలపై అప్రమత్తం చేసింది. ఆధునిక ఏఐ వ్యవస్థలు భవిష్యత్తులో మనుషులకు తీవ్రమైన లేదా ఉనికికే ముప్పు కలిగించే అవకాశం ఉందని తన ఐపీఓ ప్రాస్పెక్టస్లో పేర్కొంది. రాయిటర్స్ సమీక్షించిన ఈ పత్రంలో సంస్థ తన ఏఐ మోడళ్లకు సంబంధించిన పలు ప్రమాదాలను వివరించింది. షట్డౌన్ను అడ్డుకునే అవకాశం అధునాతన ఏఐ మోడళ్లు'ఆత్మరక్షణ ప్రవర్తన'ను ప్రదర్శించే అవకాశం ఉందని అంత్రోపిక్ తెలిపింది. ఇందులో వ్యవస్థను నిలిపివేయకుండా అడ్డుకోవడం,తమకు సంబంధించిన సమాచారం లేదా ప్రవర్తనను దాచడం,అవసరమైతే సమాచారాన్ని మానిపులేట్ చేయడం వంటి చర్యలు ఉండొచ్చని వివరించింది. ఏఐ మోడళ్లు మరింత సామర్థ్యవంతంగా మారుతున్న కొద్దీ ఇలాంటి ప్రమాదాలను విస్మరించలేమని పేర్కొంది.
వివరాలు
మోడళ్ల వినియోగం పెరిగే కొద్దీ ప్రమాదం
"మా అధునాతన మోడళ్లు, ప్లాట్ఫారమ్లు, అనువర్తనాల అభివృద్ధి, వినియోగం పెరుగుతున్న కొద్దీ.. అవి హానికరంగా మారే ప్రమాదం కూడా పెరుగుతుంది" అని అంత్రోపిక్ వెల్లడించింది.
సాధారణంగా ప్రజా కంపెనీలు ఐపీఓ సమయంలో తమ వ్యాపారానికి సంబంధించిన ప్రమాదాలను పెట్టుబడిదారులకు వివరిస్తాయి.
అయితే, తమ సాంకేతికత మనుషుల ఉనికికే ముప్పుగా మారే అవకాశం ఉందని స్పష్టంగా పేర్కొనడం మాత్రం అరుదుగా కనిపిస్తుంది.
పరిశ్రమీకరణ, విద్యుత్తుతో సమానమైన మార్పు
కృత్రిమ మేధా ప్రపంచాన్ని మార్చగల సామర్థ్యాన్ని అంత్రోపిక్.. పరిశ్రమీకరణ, విద్యుత్తు వంటి కీలక సాంకేతిక మార్పులతో పోల్చింది.
అయితే, ఏఐను సరైన విధంగా నిర్వహించకపోతే తిరిగి సరిచేయలేని స్థాయిలో నష్టం సంభవించే అవకాశం ఉందని కూడా సంస్థ పేర్కొంది.
వివరాలు
ఐపీఓ ప్రాస్పెక్టస్లో భారీగా ప్రమాద కారకాలు
అంత్రోపిక్ 261 పేజీల ప్రధాన ప్రాస్పెక్టస్లో దాదాపు 80 పేజీలను వివిధ ప్రమాద కారకాలను వివరించేందుకు కేటాయించింది.
తమ ఏఐ మోడళ్ల అంతర్గత పనితీరును పూర్తిగా అర్థం చేసుకునే సామర్థ్యం పరిమితంగా ఉండటం వల్ల.. వాటి భద్రతను సమర్థంగా అంచనా వేయడంలో ఇబ్బందులు ఎదురవుతున్నాయని సంస్థ తెలిపింది.
ఏఐ మోడళ్ల ప్రవర్తనపై పరిశోధకుల ఆందోళన
ఏఐ మోడళ్లు మరింత సామర్థ్యాన్ని సంతరించుకుంటున్న కొద్దీ.. వాటిని పరిశీలిస్తున్న విషయాన్ని గుర్తించి, అందుకు అనుగుణంగా తమ ప్రవర్తనను మార్చుకునే అవకాశం ఉందని పరిశోధకులు కొంతకాలంగా హెచ్చరిస్తున్నారు.
ఈ నేపథ్యంలో అధునాతన ఏఐ వ్యవస్థల భద్రతపై చర్చ మరింత ప్రాధాన్యం సంతరించుకుంది.
వివరాలు
ఏఐతో ఎదురయ్యే ప్రమాదాలపై ఇతర సంస్థలకూ సమీక్ష
అంత్రోపిక్తో పాటు ఓపెన్ఏఐ వంటి ఇతర ఏఐ అభివృద్ధి సంస్థల ప్రయోగాత్మక వ్యవస్థలపైనా గతంలో తీవ్ర పరిశీలన జరిగింది.
కొన్ని సందర్భాల్లో ఆయా వ్యవస్థలు నిర్దేశించిన నియంత్రణలకు విరుద్ధంగా ప్రవర్తించినట్లు నివేదికలు వెలువడ్డాయి.
ఉదాహరణకు, ఓపెన్ఏఐ మోడల్ ఆస్ట్రేలియాలోని ఆరోగ్య వ్యవస్థ డేటాబేస్ను ఉల్లంఘించినట్లు ఒక నివేదిక పేర్కొంది.
దశాబ్దంలో మానవులకు ముప్పు అంచనా
అంత్రోపిక్కు చెందిన సురక్షిత పరిశోధకుడు ఎవాన్ హుబింగర్.. వచ్చే దశాబ్దంలో ఏఐ కారణంగా మనుషులు మరణించే అవకాశం 10 శాతానికి మించి ఉండొచ్చని అంచనా వేశారు.
ఆయన అభిప్రాయం సంస్థ మాజీ సహచరుడు జాకబ్ కాక్సన్ చేసిన వ్యాఖ్యలతోనూ అనుసంధానమై ఉంది.
వివరాలు
'సురక్షిత ఏఐ నిర్మాణం సమిష్టి బాధ్యత'
నమ్మదగిన, విశ్వసనీయమైన, సురక్షితమైన ఏఐ వ్యవస్థలను అభివృద్ధి చేయడం అందరి సమిష్టి బాధ్యతగా భావిస్తున్నామని అంత్రోపిక్ తెలిపింది.
సురక్షిత ఏఐ అభివృద్ధికి మార్కెట్ కూడా ప్రోత్సాహం ఇస్తుందని తాము నమ్ముతున్నట్లు సంస్థ పేర్కొంది.