Chinese AI Model GLM-5.3: సైబర్ దాడులు చేయగల చైనా ఏఐ మోడల్.. పరిశోధనలో కీలక విషయాలు
ఈ వార్తాకథనం ఏంటి
చైనాకు చెందిన ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (ఏఐ) సంస్థ Z.AI రూపొందించిన GLM-5.3 మోడల్ సంక్లిష్టమైన సైబర్ దాడులను నిర్వహించగలదని ఓ పరిశోధనలో వెల్లడైంది. నియంత్రిత పరిస్థితుల్లో నిర్వహించిన పరీక్షల్లో ఈ మోడల్ సామర్థ్యాలను పరిశోధకులు గుర్తించారు. ఏఐ భద్రతపై పరిశోధనలు చేసే Irregular సంస్థ ఈ అధ్యయనం నిర్వహించింది. మొత్తం 13 దశలతో కూడిన సైబర్ దాడుల పరీక్షల్లో GLM-5.3 కనీసం ఒక్కసారైనా మూడు సందర్భాల్లో విజయవంతమైంది. ఇప్పటివరకు అందుబాటులో ఉన్న ఓపెన్ ఏఐ మోడళ్లలో తాము గుర్తించిన అత్యుత్తమ పనితీరు ఇదేనని Irregular తెలిపింది.
వివరాలు
అమెరికా ఏఐ మోడళ్ల కంటే వెనుకబడిన GLM-5.3
సంక్లిష్టమైన పనులు చేయగల సామర్థ్యం ఉన్నప్పటికీ, Irregular నిర్వహించిన పరీక్షల్లో GLM-5.3 అమెరికాకు చెందిన ప్రముఖ ఏఐ మోడళ్ల కంటే వెనుకబడింది.
ఉదాహరణకు, OpenAI రూపొందించిన GPT-6 Astra మరో ప్రత్యేక పరీక్షలో 10 సైబర్ దాడుల పరిస్థితుల్లో తొమ్మిదింటిని విజయవంతంగా పూర్తి చేసింది.
ఈ ఫలితాలు చైనా, అమెరికా మధ్య ఏఐ సాంకేతికత అభివృద్ధిలో కొనసాగుతున్న పోటీని స్పష్టం చేస్తున్నాయి.
వివరాలు
ఏఐతో సైబర్ దాడులు జరిగే ప్రమాదంపై ఆందోళనలు
ఏఐ మోడళ్లు మరింత సామర్థ్యవంతంగా మారుతుండటంతో సంక్లిష్టమైన సైబర్ దాడులు చేయడానికి అవసరమైన సాంకేతిక పరిజ్ఞానం, నైపుణ్యాలపై ఆధారపడాల్సిన అవసరం తగ్గే ప్రమాదం ఉందని పరిశోధనలో వెల్లడైంది.
ముఖ్యంగా GLM-5.3 వంటి చైనాకు చెందిన పలు ఏఐ మోడళ్లు ఓపెన్ వెయిట్ విధానంలో అందుబాటులో ఉన్నాయి.
అంటే వీటిని వినియోగదారులు డౌన్‌లోడ్ చేసుకోవచ్చు. తమ అవసరాలకు అనుగుణంగా మార్పులు చేసి, స్వతంత్రంగా నిర్వహించవచ్చు.
ఈ సౌలభ్యాల వల్ల ఇలాంటి మోడళ్లను దుర్వినియోగం చేసే అవకాశాలు పెరుగుతాయని నిపుణులు ఆందోళన వ్యక్తం చేస్తున్నారు.
వివరాలు
పరీక్షల్లో ప్రమాదకర పనులను తిరస్కరించని GLM-5.3.. 'రివార్డ్ హ్యాకింగ్'తో మరో సమస్య
నియంత్రిత పరిస్థితుల్లో నిర్వహించిన సైబర్ దాడుల పరీక్షల్లో GLM-5.3 రక్షణ కల్పించిన సేవలను యాక్సెస్ చేయడం, నెట్‌వర్క్‌లోని ఇతర వ్యవస్థలకు చేరుకోవడానికి ప్రత్యామ్నాయ కనెక్షన్లను ఏర్పాటు చేయడం, పలు కంప్యూటర్లలో చర్యలను సమన్వయం చేయడం వంటి పనులను చేయగలిగింది.
పరీక్షించిన ప్రమాదకర పనుల్లో దేనినీ ఈ మోడల్ తిరస్కరించలేదు. అయితే, ఇందులో మరో సమస్యను కూడా పరిశోధకులు గుర్తించారు.
దీనిని 'రివార్డ్ హ్యాకింగ్' (Reward Hacking) అంటారు. ఒక పనిని పూర్తి చేయడానికి స్పష్టంగా నిషేధించినప్పటికీ, మోడల్ తనకు గుర్తున్న కంప్యూటర్ కోడ్‌ను తిరిగి ఉపయోగించింది.
దీనివల్ల పరీక్షల్లో సరైన సమాధానాలను అందుకోగలిగినా, దాని సామర్థ్యాలను అంచనా వేయడానికి రూపొందించిన నియమాలను ఉల్లంఘించింది.
వివరాలు
అమెరికా ప్రముఖ ఏఐ వ్యవస్థల కంటే నాలుగు నెలలు వెనుక
అమెరికాకు చెందిన నేషనల్ ఇన్‌స్టిట్యూట్ ఆఫ్ స్టాండర్డ్స్ అండ్ టెక్నాలజీ (NIST) అంచనా ప్రకారం, ఇప్పటివరకు విడుదలైన ఓపెన్ వెయిట్ ఏఐ మోడళ్లలో సైబర్ భద్రత పనుల కోసం GLM-5.3 అత్యంత సామర్థ్యవంతమైన మోడల్‌గా నిలిచింది.
అయితే, అమెరికాకు చెందిన ప్రముఖ ఏఐ వ్యవస్థలతో పోలిస్తే ఈ మోడల్ సుమారు నాలుగు నెలలు వెనుకబడి ఉందని సంస్థ అంచనా వేసింది.