OpenAI: ఏఐ మోడళ్ల శిక్షణ ప్రారంభించిన ఓపెన్‌ఏఐ.. భద్రతపై కీలక చర్యలు
ఈ వార్తాకథనం ఏంటి
అత్యాధునిక ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (ఏఐ) మోడళ్ల శిక్షణను ఓపెన్‌ఏఐ మళ్లీ ప్రారంభించింది. భద్రతా వ్యవస్థలో కీలక మార్పులు చేయడంతో పాటు, ఇంటర్నెట్ యాక్సెస్‌ను నిలిపివేసిన తర్వాత ఈ నిర్ణయం తీసుకుంది. ఈ విషయాన్ని కంపెనీ తాజాగా ప్రకటించింది. కొత్త భద్రతా చర్యలను పరీక్షిస్తున్న సమయంలో ప్రముఖ డేటా కంప్రెషన్ టూల్ బ్రోట్లి (Brotli)లోనూ ఓ భద్రతా లోపాన్ని గుర్తించినట్లు వెల్లడించింది.
వివరాలు
ఏఐ ఏజెంట్లతో సాఫ్ట్‌వేర్ లోపాలను గుర్తించే ప్రమాదం
రోజురోజుకూ శక్తిమంతంగా మారుతున్న ఏఐ ఏజెంట్లు సాఫ్ట్‌వేర్‌లోని లోపాలను గుర్తించి, వాటిని తమకు అనుకూలంగా ఉపయోగించుకునే అవకాశం ఉందనే ఆందోళనలు పెరుగుతున్నాయి.
వాటిని నియంత్రించేందుకు ఏర్పాటు చేసిన భద్రతా వ్యవస్థల్లోని లోపాలను కూడా ఏఐ ఏజెంట్లు ఉపయోగించుకోవచ్చనే భయాలు వ్యక్తమవుతున్నాయి.
సెప్టెంబర్‌లో ఓపెన్‌ఏఐకి చెందిన ఓ పరిశోధనా మోడల్.. కాన్ఫిగరేషన్‌లోని లోపాన్ని ఉపయోగించుకుని పరిమిత స్థాయిలో ఇంటర్నెట్ యాక్సెస్ పొందింది.
అయితే, కంపెనీ వెంటనే ఆ సమస్యను అదుపులోకి తీసుకుంది. శిక్షణను తాత్కాలికంగా నిలిపివేసిన సమయాన్ని భద్రతా వ్యవస్థలను మరింత పటిష్ఠం చేసేందుకు ఉపయోగించుకుంది.
వివరాలు
పరీక్షల సమయంలో బ్రోట్లిలో భద్రతా లోపం గుర్తింపు
తమ భద్రతా వ్యవస్థలు ఎంతవరకు సమర్థంగా పనిచేస్తున్నాయో తెలుసుకునేందుకు ఓపెన్‌ఏఐ ప్రత్యేక బృందాలను రంగంలోకి దించింది.
పరిమిత వాతావరణంలో పనిచేసేలా రూపొందించిన ఏఐ ఏజెంట్లతోనే ఆ నిబంధనలను అధిగమించే ప్రయత్నాలు చేయించింది.
ఈ పరీక్షల్లో గతంలో గుర్తించని కొన్ని లోపాలను ఏఐ ఏజెంట్లు బయటపెట్టాయి.
వాటిని సరిచేసిన తర్వాత మోడళ్ల శిక్షణను తిరిగి ప్రారంభించినట్లు కంపెనీ తెలిపింది.
ఇదే పరీక్షల సమయంలో బ్రోట్లిలోనూ ఓ భద్రతా లోపాన్ని గుర్తించింది.
వివరాలు
బ్రోట్లి భద్రతా లోపం వల్ల కలిగే ముప్పు ఏమిటి?
బ్రోట్లిలోని లోపాన్ని దాడి చేసేవారు హానికరమైన డేటా ద్వారా ఉపయోగించుకునే అవకాశం ఉంది.
దీనివల్ల ప్రభావితమైన కంప్యూటర్ వ్యవస్థల్లో తమకు నచ్చిన కోడ్‌ను అమలు చేయగలరు.
Node.js, Bun, Envoy వంటి ప్రముఖ వెబ్ సాఫ్ట్‌వేర్‌లను ఉపయోగించే వ్యవస్థలకు కూడా ఈ ముప్పు ఉండొచ్చని కథనం పేర్కొంది.
ఈ సమస్యకు కారణమైన లోపాన్ని బ్రోట్లి సోర్స్ కోడ్‌లో ఫిబ్రవరిలోనే సరిచేసినట్లు ఓపెన్‌ఏఐ తెలిపింది.
అయితే, ఆ సమయంలో అది భద్రతాపరమైన ముప్పుగా మారుతుందని గుర్తించలేదు. దీంతో ఆ మార్పులతో కూడిన కొత్త వెర్షన్‌ను అప్పట్లో విడుదల చేయలేదు.
వివరాలు
ఓపెన్‌ఏఐ అంతర్గత వ్యవస్థల్లోనూ కొత్త లోపాలు
మరోవైపు, ఏఐ భద్రతపై పరిశోధనలు చేసే METR, Redwood Research సంస్థలు ఓపెన్‌ఏఐ అంతర్గత వ్యవస్థల్లో పలు కొత్త లోపాలను గుర్తించాయి.
వీటిలో ఏఐ ఏజెంట్లు తమ కార్యకలాపాలపై జరిగే పర్యవేక్షణ నుంచి తప్పించుకునేందుకు ఉపయోగించుకునే అవకాశం ఉన్న ఓ లోపం కూడా ఉంది.
జులైలో హగ్గింగ్ ఫేస్ (Hugging Face)కు సంబంధించిన ఘటన తర్వాత ఓపెన్‌ఏఐ తన ఏఐ మోడళ్ల కార్యకలాపాలపై విస్తృత స్థాయిలో సమీక్ష చేపడుతోంది.
అంతేకాకుండా, తమ ఏఐ ఏజెంట్లకు సంబంధించిన అనధికార కార్యకలాపాల గురించి 100కు పైగా సంస్థలకు సమాచారం అందించినట్లు కంపెనీ వెల్లడించింది.