OpenAI: కొత్త ప్రైవసీ ఫీచర్.. ఏఐ దుర్వినియోగాన్ని అడ్డుకునేందుకు కీలక చర్య
ఈ వార్తాకథనం ఏంటి
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) మోడళ్ల దుర్వినియోగాన్ని అడ్డుకునేందుకు OpenAI కొత్త ప్రైవసీ ఆధారిత సెక్యూరిటీ ఫీచర్ను తీసుకొచ్చింది. దీనికి 'ప్రైవేట్ సేఫ్టీ ప్రాసెసింగ్' (Private Safety Processing) అని పేరు పెట్టింది. ఈ ఆటోమేటెడ్ సిస్టమ్ వినియోగదారుల డేటాను స్టోర్ చేయకుండానే, AI మోడళ్లను దుర్వినియోగం చేసే ప్రయత్నాలను గుర్తిస్తుంది. ప్రత్యర్థి సంస్థ Anthropic ఇటీవల ప్రకటించిన డేటా రిటెన్షన్ పాలసీకి ప్రతిస్పందనగా OpenAI ఈ చర్య చేపట్టింది. Anthropicకు చెందిన కొన్ని మోడళ్లలో వినియోగదారుల డేటాను 30 రోజుల వరకు నిల్వ చేసుకునే అవకాశం ఉండటంతో ఈ అంశంపై ప్రైవసీకి సంబంధించిన ఆందోళనలు వ్యక్తమయ్యాయి.
వివరాలు
Anthropic డేటా రిటెన్షన్ పాలసీపై ఆందోళనలు..
Anthropic జూలైలో తన డేటా రిటెన్షన్ పాలసీని ప్రకటించింది. దీని ప్రకారం 'కవర్డ్ మోడల్స్'గా పేర్కొన్న మోడళ్లలో వినియోగదారుల డేటాను 30 రోజుల వరకు నిల్వ చేసుకోవచ్చు.
ఇందులో అన్ని Mythos-క్లాస్ మోడళ్లతో పాటు, భవిష్యత్తులో ఇదే తరహా సామర్థ్యాలు కలిగిన మోడళ్లు కూడా ఉంటాయి.
AI మోడళ్లను దుర్వినియోగం చేసే అవకాశాలను గుర్తించి భద్రతను మెరుగుపరచడమే ఈ విధానం ఉద్దేశమని Anthropic తెలిపింది.
అయితే సున్నితమైన సమాచారాన్ని నిర్వహించే సంస్థల్లో ఇది ప్రైవసీపై ఆందోళనలకు దారితీసింది.
తమ సమాచారాన్ని AI సంస్థలు నిల్వ చేయడం లేదా పరిశీలించడం ఇష్టంలేని సంస్థలకు ఈ విధానం సమస్యగా మారింది.
వివరాలు
OpenAIలో ఇప్పటికే 'జీరో డేటా రిటెన్షన్' పాలసీ
ఇతర AI సంస్థల మాదిరిగానే OpenAI కూడా ఇప్పటికే Zero Data Retention (ZDR) అనే విధానం ద్వారా కొంతమేర ప్రైవసీని అందిస్తోంది.
ZDR విధానంలో OpenAI APIలోని ఏజెంట్లు ప్రతి సెషన్ ఆధారంగా దుర్వినియోగాన్ని పర్యవేక్షిస్తాయి.
అయితే ఈ ప్రక్రియలో కస్టమర్ల డేటాను నిల్వ చేయరు. Anthropic కూడా ZDR విధానాన్ని అనుసరిస్తోంది.
అయితే Fable వంటి 'కవర్డ్ మోడల్స్'కు ఈ విధానం వర్తించదు.
ఇప్పుడు OpenAI తీసుకొచ్చిన Private Safety Processing అనేది ZDRకు మరింత అధునాతన రూపమని సంస్థ చెబుతోంది.
ఈ సిస్టమ్ ఒకే సెషన్కు పరిమితం కాకుండా, పలు సంభాషణల్లోని ఇన్పుట్లు, అవుట్పుట్లను పరిశీలించి దుర్వినియోగానికి సంబంధించిన సంకేతాలను గుర్తిస్తుంది.
వివరాలు
Private Safety Processing అంటే ఏమిటి?
కొత్తగా తీసుకొచ్చిన Private Safety Processing టెక్నాలజీ ద్వారా పలు సెషన్లలో జరుగుతున్న AI దుర్వినియోగాన్ని OpenAI గుర్తించగలదు.
ఉదాహరణకు, ఒక వ్యక్తి తన దుర్వినియోగానికి సంబంధించిన ప్రశ్నలను ఒకేసారి అడగకుండా, పలు సంభాషణల్లో విడగొట్టి అడిగి సిస్టమ్ గుర్తింపును తప్పించుకునే ప్రయత్నం చేయవచ్చు.
ఇలాంటి సందర్భాల్లో ఈ సిస్టమ్ పలు సంభాషణలను విశ్లేషించి దుర్వినియోగానికి సంబంధించిన సంకేతాలను గుర్తిస్తుంది.
ఇందుకోసం వినియోగదారుల సంభాషణలను మనుషులు నేరుగా పరిశీలించాల్సిన అవసరం ఉండదు.
దుర్వినియోగానికి సంబంధించిన సంకేతాలు గుర్తించినప్పుడు, నిర్దిష్ట రకమైన కార్యకలాపానికి సంబంధించి OpenAIకి ఒక 'నారోగా నిర్వచించిన సిగ్నల్' (narrowly defined signal) పంపుతుంది.
డేటాను బయటపెట్టకుండా, అనుమానాస్పద కార్యకలాపం ఏ రకానికి సంబంధించినదో సూచించే పరిమిత హెచ్చరికను మాత్రమే అందిస్తుంది.