OpenAI: ChatGPT టెక్స్ట్‌కు వాటర్‌మార్క్.. యూరోపియన్ యూనియన్‌లో త్వరలో అమలు
ఈ వార్తాకథనం ఏంటి
యూరోపియన్ యూనియన్‌లో చాట్‌జీపీటీ ద్వారా రూపొందించే టెక్స్ట్‌కు కనిపించని వాటర్‌మార్క్‌ను జోడించనున్నట్లు ఓపెన్‌ఏఐ ప్రకటించింది. EU AI Act నిబంధనలకు అనుగుణంగా ఈ నిర్ణయం తీసుకున్నట్లు సోమవారం విడుదల చేసిన బ్లాగ్‌పోస్ట్‌లో సంస్థ తెలిపింది. ChatGPTతో పాటు Codex ద్వారా రూపొందించే టెక్స్ట్‌కూ ఈ వాటర్‌మార్క్ వర్తించనుంది. AI ద్వారా రూపొందించిన కంటెంట్‌ను ఇతర సిస్టమ్‌లు గుర్తించేలా చేయాలన్న EU AI Act పారదర్శకత నిబంధనలు ఆగస్టు 2 నుంచి అమల్లోకి వచ్చాయి. రానున్న కొన్ని వారాల్లో EUలోని అర్హత ఉన్న ChatGPT, Codex వినియోగదారులకు అన్ని ప్లాన్లలో ఈ వాటర్‌మార్క్ అందుబాటులోకి రానుంది. అయితే ప్రస్తుతానికి ఇది యూరోపియన్ యూనియన్‌కే పరిమితం.
వివరాలు
వాటర్‌మార్క్ ఎలా పనిచేస్తుంది?
ప్రపంచంలోని ఇతర ప్రాంతాల్లో OpenAI APIని ఉపయోగించే డెవలపర్లు ఎంపిక చేసిన మోడళ్లకు ఈ ఫీచర్‌ను తమంతట తాముగా ఆన్ చేసుకోవచ్చు.
ఇది డిఫాల్ట్‌గా ఆఫ్‌లో ఉంటుంది. ప్రస్తుత దశలో ప్రపంచవ్యాప్తంగా ChatGPT టెక్స్ట్‌కు వాటర్‌మార్క్‌ను డిఫాల్ట్‌గా అమలు చేయడం లేదని OpenAI స్పష్టం చేసింది.
ఈ వాటర్‌మార్క్ సాధారణంగా కనిపించే గుర్తు కాదు. మోడల్ ఉపయోగించే పదాల ఎంపికను చాలా స్వల్పంగా మార్చడం ద్వారా టెక్స్ట్‌లో ప్రత్యేకమైన నమూనాను సృష్టిస్తుంది.
దాన్ని మనుషులు చూడలేరు కానీ ప్రత్యేక డిటెక్టర్ గుర్తించగలదు.
ఈ గుర్తు టెక్స్ట్‌లోని పదాల్లోనే ఉండటంతో కాపీ చేసి మరోచోట పేస్ట్ చేసినా దానితో పాటు కొనసాగుతుంది.
ఈ వాటర్‌మార్క్ ద్వారా వినియోగదారుడి వివరాలను గుర్తించలేమని OpenAI తెలిపింది.
వివరాలు
వాటర్‌మార్కింగ్ విధానానికి 'textGrain' పేరు
వాటర్‌మార్క్‌ను ఆన్ చేసినప్పటికీ తమ మోడళ్ల పనితీరులో చెప్పుకోదగ్గ మార్పు కనిపించలేదని పేర్కొంది.
తమ వాటర్‌మార్కింగ్ విధానానికి 'textGrain' అనే పేరు పెట్టిన OpenAI దానిపై సాంకేతిక నివేదికను కూడా విడుదల చేసింది.
యూనివర్సిటీ ఆఫ్ పెన్సిల్వేనియా, యేల్ విశ్వవిద్యాలయ పరిశోధకులతో కలిసి రూపొందించిన ఈ నివేదికలో, తదుపరి పదాన్ని ఎంచుకునే సమయంలో రహస్య కీ ఆధారంగా కొన్ని మార్పులు ఎలా చేస్తారో వివరించింది.
ఇలా వందలాది చిన్న మార్పులను టెక్స్ట్‌లో కలిపినప్పుడు, ఆ టెక్స్ట్ AI ద్వారా రూపొందించబడిందా లేదా అన్నది కేవలం టెక్స్ట్, సంబంధిత కీ ఆధారంగా డిటెక్టర్ గుర్తించగలదు.
వివరాలు
వాటర్‌మార్క్ లేకపోతే మనిషి రాసినట్టు కాదు
అయితే ఈ టెక్నాలజీకి కొన్ని పరిమితులు ఉన్నాయని OpenAI తెలిపింది.
అందుకే ప్రస్తుతానికి డిటెక్టర్‌ను ఎంపిక చేసిన పరిశోధకులు, నిపుణుల సంస్థలకు మాత్రమే అందిస్తున్నట్లు పేర్కొంది.
దీని ద్వారా వాటర్‌మార్క్ ఎంత నమ్మకంగా పనిచేస్తుందో, దాన్ని బాధ్యతాయుతంగా ఎలా ఉపయోగించాలో అంచనా వేయవచ్చని తెలిపింది.
అదే సమయంలో వాటర్‌మార్క్ కనిపించకపోతే ఆ టెక్స్ట్‌ను మనిషి రాశాడని నిర్ధారించలేమని OpenAI స్పష్టం చేసింది.
టెక్స్ట్ చాలా చిన్నదిగా ఉండటం, ఎక్కువగా ఎడిట్ చేయడం లేదా మరో సంస్థకు చెందిన AI ద్వారా రూపొందించడం వంటి కారణాల వల్ల కూడా వాటర్‌మార్క్ గుర్తించకపోవచ్చు.
వివరాలు
వాటర్‌మార్క్‌పై OpenAI కీలక హెచ్చరిక.. గతంలోనే టెక్నాలజీ అభివృద్ధి
అలాగే ఒక టెక్స్ట్‌లో OpenAI సిస్టమ్ కొంత భాగాన్ని రూపొందించిందని లేదా ప్రాసెస్ చేసిందని వాటర్‌మార్క్ సూచించగలదే తప్ప, అందులో మానవుల ఆలోచన, ఎడిటింగ్ లేదా సృజనాత్మకత ఎంత మేరకు ఉందో చెప్పలేదని సంస్థ పేర్కొంది.
ఇదిలా ఉండగా, Claude AI ద్వారా రూపొందించే టెక్స్ట్‌కు ప్రపంచవ్యాప్తంగా వాటర్‌మార్క్ అమలు చేయనున్నట్లు Anthropic ప్రకటించిన రెండు నెలల తర్వాత OpenAI ఈ నిర్ణయం తీసుకుంది.
అయితే Anthropic నిర్ణయంపై కొంతమంది Claude వినియోగదారులు అభ్యంతరం వ్యక్తం చేశారు.
తాము సూచనలు, సందర్భం, నిర్ణయాలు అందిస్తున్నామని, Claude కేవలం ఒక సాధనంగా పనిచేస్తోందని వారు వాదించారు.
OpenAI గతంలోనే టెక్స్ట్ వాటర్‌మార్కింగ్ టెక్నాలజీని అభివృద్ధి చేసినప్పటికీ, దాన్ని విడుదల చేయకుండా నిలిపివేసింది.
వివరాలు
వాటర్‌మార్క్‌కు పరిమితులు.. ఎడిటింగ్‌తో గుర్తించడం కష్టమే
వాటర్‌మార్క్ లేని ప్రత్యర్థి AI సేవలకు వినియోగదారులు మారిపోయే అవకాశం ఉందన్న ఆందోళన కూడా ఇందుకు ఒక కారణమని 2024లో ది వాల్ స్ట్రీట్ జర్నల్ నివేదించింది.
AI ద్వారా రూపొందించిన కంటెంట్‌కు సంబంధించిన EU కోడ్ ఆఫ్ ప్రాక్టీస్‌ను పాటించేందుకు Anthropic,Google,Meta,Microsoft,OpenAI వంటి సంస్థలు ఇప్పటికే అంగీకరించాయి.
అయితే ఈ వాటర్‌మార్క్‌ను ఎడిటింగ్ ద్వారా తొలగించవచ్చా అనే ప్రశ్నకు OpenAI పరీక్షలు అవుననే సమాధానం ఇస్తున్నాయి.
ఒక పరీక్షలో టెక్స్ట్‌లోని 10 శాతం పదాలను వాటి పర్యాయపదాలతో మార్చినప్పుడు, AI టెక్స్ట్‌ను గుర్తించే సామర్థ్యం సుమారు 92 శాతం నుంచి 66 శాతానికి పడిపోయింది.
చిన్న టెక్స్ట్‌లు, గణిత సమాధానాలు, అనువదించిన కంటెంట్‌ను కూడా గుర్తించడం మరింత కష్టమని OpenAI తెలిపింది.