Global AI safety: స్వీయ-ప్రతులికరణ: AI భద్రతకు ప్రధాన ఆందోళన
ఈ వార్తాకథనం ఏంటి
యూకేలోని అరి (Aria) ఏజెన్సీ AI భద్రతా నిపుణుడు డేవిడ్ డాల్రింపిల్, ఆధునిక AI సిస్టమ్స్ వల్ల వచ్చే భద్రతా సమస్యలకు ప్రపంచం సిద్ధమయ్యే సమయం ఉండకపోవచ్చు అని హెచ్చరించారు. ఈ సాంకేతిక పరిజ్ఞానంలో పెరుగుతున్న సామర్థ్యాలను గురించి ప్రజలు ఆందోళన చెందాల్సిన అవసరం ఉందని ఆయన అన్నారు. మన నాగరికతను, ప్రపంచాన్ని నియంత్రించడానికి అవసరమైన కీలక రంగాలలో ఈ సిస్టమ్స్ మనుషులకంటే మెరుగైన పనితీరు చూపగలవని డాల్రింపిల్ వివరించారు.
వివరాలు
ప్రజా, ప్రైవేట్ రంగాల మధ్య జ్ఞాన లోటు
డాల్రింపిల్ పబ్లిక్ మరియు ప్రైవేట్ రంగాల మధ్య ఈ సాంకేతికత యొక్క భవిష్యత్తు అభివృద్ధులపై జ్ఞాన లోటు ఉన్నదని కూడా చెప్పారు. సమస్యలు చాలా వేగంగా ఏర్పడుతున్నందున, భద్రత పరంగా వాటిని ఎదుర్కోవడానికి మనకు సమయం ఉండకపోవచ్చని హెచ్చరించారు. "మొదటి ఐదు సంవత్సరాల్లో, ఆర్థికంగా అత్యంత విలువైన పనులను యంత్రాలు, మనుషుల కంటే తక్కువ ఖర్చుతో, అధిక నాణ్యతతో చేయగలవని ఊహించడం సైన్స్ ఫిక్షన్ కాదు" అని ఆయన అన్నారు.
వివరాలు
క్రిటికల్ ఇన్ఫ్రాస్ట్రక్చర్లో AI భద్రతపై దృష్టి
ప్రభుత్వ నుండి స్వతంత్రంగా పనిచేసే, అరి ఏజెన్సీలో ప్రోగ్రాం డైరెక్టర్గా, డాల్రింపిల్ ఎనర్జీ నెట్వర్క్ల వంటి క్రిటికల్ ఇన్ఫ్రాస్ట్రక్చర్లో AI భద్రతా వినియోగాన్ని నిర్ధారించడానికి పనితీరులను రూపొందిస్తున్నారు. ఈ సిస్టమ్స్ను విశ్వసనీయంగా పరిగణించరాదు అని ఆయన చెప్పారు. "ఆ పనికి కావాల్సిన సైన్స్, ఆర్థిక ఒత్తిళ్ల కారణంగా సమయానికి సిద్ధం కావడం సులభం కాదు" అని చెప్పారు.
వివరాలు
AI అభివృద్ధి వల్ల అస్థిరత వచ్చే అవకాశంపై హెచ్చరిక
సాంకేతిక అభివృద్ధి భద్రతను మించి వెళ్తే, అది "భద్రత మరియు ఆర్థిక వ్యవస్థలో అస్థిరత"కు కారణమవుతుంది అని డాల్రింపిల్ చెప్పారు. ఆధునిక AI సిస్టమ్స్ ప్రవర్తనను అర్థం చేసుకోవడానికి, నియంత్రించడానికి మరిన్ని సాంకేతిక ప్రయత్నాలు అవసరమని ఆయన చెప్పారు. ప్రమాదాలున్నప్పటికీ, ఈ సాంకేతికతను సక్రమంగా ఉపయోగించడానికి ఆయన ఆశావాహిగా ఉన్నారు. అయితే, ఈ మార్పులో మానవ నాగరికత ఎక్కువగా నిద్రపోతున్నట్లేనని హెచ్చరించారు.
వివరాలు
యూకే AI భద్రతా సంస్థ అధునిక మోడల్స్ వేగవంతమైన అభివృద్ధిని వెల్లడిస్తోంది
యూకే ప్రభుత్వ AI సెక్యూరిటీ ఇన్స్టిట్యూట్ (AISI) ప్రకారం, అన్ని రంగాల్లో అధునిక AI మోడల్స్ సామర్థ్యం వేగంగా మెరుగుపడుతోంది. కొన్ని రంగాల్లో, వీటి పనితీరు ప్రతి ఎనిమిది నెలలకోసారి రెండింతలు అవుతోంది. ముఖ్యమైన మోడల్స్ ఇప్పుడు సగటున 50% సమయం అప్రెంటీస్ స్థాయి పనులను పూర్తి చేయగలవు, గత సంవత్సరం సుమారుగా 10% మాత్రమే సాధించినది. అత్యాధునిక సిస్టమ్స్ ఒక మనిషి నిపుణుడికి ఒక గంటకు పైగా పట్టే పనులను స్వతంత్రంగా పూర్తి చేయగలవు.
వివరాలు
స్వీయ-ప్రతులీకరణ పరీక్షలు
AISI స్వీయ-ప్రతులికరణ (self-replication) కొరకు కూడా పరీక్షలు నిర్వహించింది. ఇది ముఖ్య భద్రతా సమస్య, ఎందుకంటే సిస్టమ్ తన ప్రతులను ఇతర డివైస్లకు పంపించి నియంత్రణ కష్టంగా మారుతుంది. పరీక్షల్లో రెండు అగ్రగామి మోడల్స్ 60% పైగా విజయ రేటు సాధించాయి. అయినప్పటికీ, నిజ జీవిత పరిస్థితుల్లో ఇలాంటి పరిస్థితులు సాధారణం కాదని AISI చెప్పారు.