Loading...
OpenAI CSAM tools: పిల్లలపై లైంగిక కంటెంట్‌కు చెక్‌.. ఓపెన్‌ఏఐ కొత్త టూల్స్
పిల్లలపై లైంగిక కంటెంట్‌కు చెక్‌.. ఓపెన్‌ఏఐ కొత్త టూల్స్

OpenAI CSAM tools: పిల్లలపై లైంగిక కంటెంట్‌కు చెక్‌.. ఓపెన్‌ఏఐ కొత్త టూల్స్

వ్రాసిన వారు Balachander Sharma
Nov 17, 2026
01:17 pm

ఈ వార్తాకథనం ఏంటి

AI టెక్నాలజీ పెరుగుతున్న కొద్దీ దాని దుర్వినియోగంపై ఆందోళనలు కూడా పెరుగుతున్నాయి. ముఖ్యంగా పిల్లలను లైంగికంగా చూపించే కంటెంట్‌ విషయంలో మరింత అప్రమత్తంగా ఉండేందుకు OpenAI కొత్త టూల్స్‌ను తీసుకొచ్చింది. వీటిలో ఇలాంటి కంటెంట్‌ను గుర్తించే ప్రత్యేక ఇమేజ్‌ క్లాసిఫైయర్‌, ChatGPTలో హెచ్చరికలు, తాత్కాలిక అకౌంట్‌ బ్లాక్స్‌ ఉన్నాయి. పిల్లల భద్రతకు సంబంధించిన కంటెంట్‌ను గుర్తించడం, అడ్డుకోవడం, రిపోర్ట్‌ చేయడంలో డెవలపర్లు, చట్ట అమలు సంస్థలకు కూడా కొత్త మార్గదర్శకాలు, టూల్స్‌ను అందిస్తోంది.

Details

AIతో రూపొందించిన చిత్రాలనూ గుర్తించే టూల్

కొత్త ఇమేజ్‌ క్లాసిఫైయర్‌ను National Center for Missing and Exploited Children (NCMEC) సహకారంతో OpenAI అభివృద్ధి చేసింది.

గతంలో చూడని చిత్రాల్లోనూ పిల్లలపై లైంగిక వేధింపులకు సంబంధించిన దృశ్యాలను గుర్తించి ఒక స్కోర్‌ ఇస్తుంది.

దాని ఆధారంగా రివ్యూయర్లు ఏ చిత్రాన్ని ముందుగా పరిశీలించాలనే నిర్ణయం తీసుకోవచ్చు.

ప్రారంభ పరీక్షల్లో ఈ టూల్‌ అదే స్థాయిలో హానికరమైన చిత్రాలను గుర్తిస్తూనే 48 శాతం తక్కువ చిత్రాలను రివ్యూకు పంపినట్లు OpenAI తెలిపింది. దీంతో మానవ రివ్యూయర్లపై పని భారం తగ్గుతుంది.

Details

ChatGPTలో హెచ్చరికలు.. 24 గంటల బ్లాక్

పిల్లలను లైంగికంగా చూపించే కంటెంట్‌ను యాక్సెస్‌ చేసేందుకు ఎవరైనా ప్రయత్నిస్తే ChatGPTలో కొత్త హెచ్చరిక స్క్రీన్‌ కనిపిస్తుంది.

ప్రస్తుతం ఇలాంటి కంటెంట్‌, దానికి సంబంధించిన అభ్యర్థనలను సిస్టమ్‌ ఇప్పటికే అడ్డుకుంటోంది.

ఇకపై హెచ్చరికతో పాటు ప్రత్యేక సహాయ సేవల వైపు యూజర్‌ను మళ్లించే విధానం ఉంటుంది.

నిబంధనలను ఉల్లంఘించే సందర్భాల్లో సంబంధిత అకౌంట్‌ను 24 గంటల పాటు సస్పెండ్‌ చేసే అవకాశం కూడా ఉంది.

ADVERTISEMENT

Details

డెవలపర్లకు గైడ్‌లైన్స్‌.. పోలీసులకు AI టూల్స్

OpenAI డెవలపర్ల కోసం ప్రత్యేక మార్గదర్శకాలను విడుదల చేసింది.

CSAM కంటెంట్‌ను ఎలా గుర్తించాలి, అడ్డుకోవాలి, సంబంధిత సంస్థలకు ఎలా రిపోర్ట్‌ చేయాలనే అంశాలను ఇందులో వివరించింది.

అమెరికాలోని NCMECకు రిపోర్టింగ్‌ వ్యవస్థను అనుసరించేందుకు పలువురు డెవలపర్లు ఈ మార్గదర్శకాలతో ముందుకొచ్చినట్లు కంపెనీ తెలిపింది.

మరోవైపు చట్ట అమలు సంస్థల కోసం ప్రత్యేక ప్లగిన్లు, దర్యాప్తు టూల్స్‌, భారీ డేటాను విశ్లేషించే AI సామర్థ్యాలను కూడా అందిస్తోంది.

పిల్లల భద్రత విషయంలో AIని సమస్యగా కాకుండా రక్షణ సాధనంగా ఉపయోగించడమే ఈ చర్యల ప్రధాన లక్ష్యంగా కనిపిస్తోంది.

ADVERTISEMENT