OpenAI: GPT-Red పరిచయం.. AI మోడళ్లలో లోపాలను గుర్తించే OpenAI 'సూపర్ హ్యాకర్'

వ్రాసిన వారు Moogati Shabari

Jul 16, 2026

01:58 pm

ఈ వార్తాకథనం ఏంటి

ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) మోడళ్ల భద్రతను మరింత బలోపేతం చేయడానికి OpenAI 'GPT-Red' పేరుతో ప్రత్యేకమైన లార్జ్ లాంగ్వేజ్ మోడల్ (LLM)ను అభివృద్ధి చేసింది. AI మోడళ్లలో ఉండే బలహీనతలను గుర్తించి, వాటిని మరింత సురక్షితంగా మార్చడమే దీని ప్రధాన లక్ష్యమని సంస్థ వెల్లడించింది. తాజా ఫ్లాగ్‌షిప్ AI మోడల్ GPT-5.6ను GPT-Redతో పరీక్షించిన తర్వాత ఇప్పటివరకు విడుదల చేసిన వాటిలో ఇదే అత్యంత భద్రత కలిగిన వెర్షన్‌గా రూపొందిందని OpenAI తెలిపింది. సాధారణంగా సాఫ్ట్‌వేర్ వ్యవస్థల్లోని లోపాలను గుర్తించేందుకు నిపుణులు నిర్వహించే 'రెడ్-టీమింగ్' ప్రక్రియను ఇప్పుడు GPT-Red ద్వారా ఆటోమేటిక్‌గా నిర్వహించవచ్చని పేర్కొంది. భవిష్యత్తులో ఏఐమోడళ్ల భద్రతా పరీక్షలను మరింత సమర్థంగా నిర్వహించడంలో GPT-Red కీలక పాత్ర పోషిస్తుందని సంస్థ భావిస్తోంది.

వివరాలు

కొత్త తరహా దాడులను గుర్తించడమే లక్ష్యం..

AI లార్జ్ లాంగ్వేజ్ మోడళ్లు మరింత శక్తివంతంగా మారుతున్న కొద్దీ, వాటిని ఉపయోగించే రంగాలు కూడా విస్తరిస్తున్నాయి.

దీంతో వాటిపై జరిగే దాడుల అవకాశాలు, దాడి చేసే మార్గాలు కూడా పెరుగుతున్నాయని OpenAI పరిశోధకులు చెబుతున్నారు.

GPT-Red సహ-సృష్టికర్త, OpenAI పరిశోధకుడు నిఖిల్ కంద్‌పాల్ మాట్లాడుతూ, "మోడళ్ల సామర్థ్యం పెరిగే కొద్దీ ప్రమాదాల పరిధి కూడా విస్తరిస్తుంది.

ఒక లోపం వల్ల కలిగే ప్రభావం కూడా పెద్దదవుతుంది" అని తెలిపారు.

మరో సహ-సృష్టికర్త డిలన్ హన్ మాట్లాడుతూ, ప్రతిరోజూ మరింత శక్తివంతమైన AI మోడళ్లు వస్తున్న నేపథ్యంలో, కొత్త తరహా సైబర్ దాడులను ముందుగానే గుర్తించగల వ్యవస్థను రూపొందించాలని లక్ష్యంగా పెట్టుకున్నామని చెప్పారు.

వివరాలు

GPT-Red ఎలా రూపొందింది?

GPT-Redను అభివృద్ధి చేసే సమయంలో, హ్యాకింగ్ కోసం ప్రత్యేకంగా శిక్షణ ఇవ్వని ఒక లార్జ్ లాంగ్వేజ్ మోడల్‌ను OpenAI పరిశోధకులు ఇతర AI మోడళ్లతో కలిసి 'సెల్ఫ్-ప్లే' విధానంలో శిక్షణ ఇచ్చారు.

ఈ ప్రక్రియలో ఒక మోడల్ మిగతా మోడళ్లపై దాడి చేయడానికి ప్రయత్నిస్తే, అవి ఆ దాడులను అడ్డుకునేలా శిక్షణ పొందాయి.

కాలక్రమేణా GPT-Red దాడులు చేయడంలో మరింత నైపుణ్యం సాధించగా, మిగతా AI మోడళ్లు వాటిని సమర్థంగా ఎదుర్కొనే సామర్థ్యాన్ని పెంచుకున్నాయి.

వివరాలు

వెండింగ్ మెషిన్ చాట్‌బాట్‌ను హ్యాక్ చేసిన GPT-Red

అండాన్ లాబ్స్ అభివృద్ధి చేసిన 'Vendy' అనే వెండింగ్ మెషిన్ AI ఏజెంట్‌పై కూడా OpenAI GPT-Redను పరీక్షించింది.

ఈ పరీక్షలో GPT-Red, విక్రయానికి ఉన్న వస్తువుల ధరలను మార్చడం, కస్టమర్ ఆర్డర్‌ను రద్దు చేయడం వంటి చర్యలు చేయగలిగింది.

అయితే, హ్యాకర్, లక్ష్య వ్యవస్థ మధ్య జరిగే వరుస సంభాషణల ఆధారంగా దాడులు చేసే విధానాన్ని గుర్తించడంలో GPT-Red అంతగా సమర్థంగా పనిచేయలేదని OpenAI వెల్లడించింది.

అలాంటి దాడులను మానవ హ్యాకర్లు సాధారణంగా సులభంగా నిర్వహించగలరని సంస్థ పేర్కొంది.