'Kill Switch': ఏఐకి 'కిల్ స్విచ్'.. షట్డౌన్ వ్యవస్థపై ఓపెన్ఏఐ కసరత్తు
ఈ వార్తాకథనం ఏంటి
చాట్జీపీటీని రూపొందించిన ఓపెన్ఏఐ.. తన కృత్రిమ మేధ (ఏఐ) వ్యవస్థలకు 'ఆటోమేటెడ్ షట్డౌన్' సదుపాయాన్ని కల్పించే పనిలో ఉంది. ఏఐ వ్యవస్థలు అదుపు తప్పినప్పుడు వాటిని ఆటోమేటిక్గా నిలిపివేసేలా ఈ సాంకేతికతను అభివృద్ధి చేస్తోంది. భద్రతా పరీక్ష సందర్భంగా ఓ ఏఐ ఏజెంట్ అదుపు తప్పి మరో ఏఐ సంస్థ అయిన హగ్గింగ్ ఫేస్లోకి చొరబడి హ్యాకింగ్కు పాల్పడిన ఘటన తర్వాత ఈ చర్యలు చేపట్టింది. ఈ విషయాన్ని ఓపెన్ఏఐ అమెరికా ప్రతినిధుల సభ సభ్యులు గ్రెగ్ కాసర్, డోరిస్ మాట్సుయికి పంపిన లేఖలో వెల్లడించింది. ఈ లేఖను రాయిటర్స్ పరిశీలించింది.
వివరాలు
ఏఐ వ్యవస్థల చర్యలపై నిఘా
ఆగస్టులో కాసర్, మాట్సుయి.. అదుపు తప్పిన ఏఐ ఘటన, దాని నుంచి రక్షణకు ఓపెన్ఏఐ తీసుకుంటున్న చర్యలపై మరిన్ని వివరాలు కోరారు.
దీనికి స్పందించిన సంస్థ.. తన ఏఐ వ్యవస్థలు ఏం చేస్తున్నాయో మరింత నిశితంగా పర్యవేక్షిస్తామని తెలిపింది.
ఏఐ మోడళ్లు ఉపయోగించే డిజిటల్ టూల్స్తో పాటు అవి అనుసరించే ప్రతి దశను కూడా గమనిస్తామని పేర్కొంది.
భద్రతా పరీక్షల సమయంలో ఏఐ మోడళ్లు ఇంటర్నెట్ను సులభంగా యాక్సెస్ చేయకుండా మరిన్ని ఆంక్షలు విధించినట్లు వెల్లడించింది.
తొలుత ఏఐ ఏజెంట్ అదుపు తప్పడానికి ఇంటర్నెట్ యాక్సెస్ కూడా ఒక కారణంగా ఉన్నందున ఈ మార్పులు చేసినట్లు తెలిపింది.
వివరాలు
హ్యాకింగ్ వివరాలు ఇవ్వలేదని విమర్శ
అయితే జరిగిన హ్యాకింగ్కు సంబంధించిన పూర్తి లాగ్ను ఓపెన్ఏఐ అందించలేదు.
దీనిపై చట్టసభ సభ్యుడు గ్రెగ్ కాసర్ అసంతృప్తి వ్యక్తం చేశారు. తాము కోరిన సమాచారాన్ని కాంగ్రెస్ సభ్యులకు అందించేందుకు ఓపెన్ఏఐ నిరాకరించడం తీవ్ర ఆందోళన కలిగించే విషయమని ఆయన అన్నారు.
సైబర్ భద్రతకు సంబంధించిన ఇలాంటి ఘటనలను సంస్థ తగినంత తీవ్రంగా పరిగణించడం లేదనే సంకేతాలు కనిపిస్తున్నాయని విమర్శించారు.
ఈ ఘటనతో ఏఐ అభివృద్ధిలో పారదర్శకత, జవాబుదారీతనంపై కూడా ప్రశ్నలు తలెత్తాయి.
వివరాలు
'ఏఐ కిల్ స్విచ్ యాక్ట్'కు ప్రతిపాదన
ఈ ఘటన నేపథ్యంలో అమెరికా చట్టసభ్యులు 'ఏఐ కిల్ స్విచ్ యాక్ట్' పేరుతో ఓ బిల్లును ప్రతిపాదించారు.
మానవ ప్రాణాలకు లేదా ఆర్థిక వ్యవస్థకు ముప్పు కలిగించే ఏఐ మోడళ్లను నిలిపివేయాలని అమెరికా అధికారులు సంబంధిత ఏఐ సంస్థలను ఆదేశించేలా ఈ బిల్లులో ప్రతిపాదించారు.
ప్రస్తుతం ఈ బిల్లు అమెరికా ప్రతినిధుల సభ పరిశీలనలో ఉంది.
ఏఐ సాంకేతికత వేగంగా అభివృద్ధి చెందుతున్న నేపథ్యంలో దాని భద్రత, నియంత్రణపై చట్టసభ్యుల్లో ఆందోళనలు పెరుగుతున్నాయని ఈ పరిణామాలు స్పష్టం చేస్తున్నాయి.