Anthropic: Claude AIని కాపీ చేయడం ప్రత్యర్థులకు ఇక అంత ఈజీ కాదు
ఈ వార్తాకథనం ఏంటి
ప్రముఖ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) సంస్థ ఆంత్రోపిక్ తన Claude AI మోడళ్ల భద్రతను మరింత పెంచింది. ఇతర కంపెనీలు తమ AI మోడళ్ల సామర్థ్యాలను కాపీ చేయడానికి చేసే ప్రయత్నాలను అడ్డుకునేందుకు కొత్త భద్రతా చర్యలు చేపట్టింది. ఈ చర్యలతో 'డిస్టిలేషన్ అటాక్స్' ద్వారా జరిగే డేటా చోరీని దాదాపు 90 నుంచి 99 శాతం వరకు తగ్గించినట్లు సంస్థ వెల్లడించింది. అమెరికా-చైనా మధ్య పెరుగుతున్న AI పోటీ నేపథ్యంలో ప్రముఖ టెక్ సంస్థలు తమ AI మోడళ్లను కాపాడుకునేందుకు తీవ్రంగా ప్రయత్నిస్తున్నాయి.
వివరాలు
మోడల్ డిస్టిలేషన్ అంటే ఏమిటి? అది ఎందుకు ముఖ్యం?
Anthropicతో పాటు OpenAI, Google వంటి ప్రముఖ AI సంస్థలు మోడల్ డిస్టిలేషన్‌పై ఆందోళన వ్యక్తం చేస్తున్నాయి.
ఈ విధానంలో ఒక అధునాతన AI మోడల్ ఇచ్చే సమాధానాలు, దాని సామర్థ్యాలను ఉపయోగించుకుని మరో AI మోడల్‌కు శిక్షణ ఇస్తారు.
దీనివల్ల తక్కువ ఖర్చుతో, తక్కువ సమయంలోనే శక్తిమంతమైన AI మోడళ్లను అభివృద్ధి చేసే అవకాశం ఉంటుంది.
అయితే, అనుమతి లేకుండా ఇలా చేయడం ద్వారా తమ టెక్నాలజీని ప్రత్యర్థులు కాపీ చేసే ప్రమాదం ఉందని AI సంస్థలు భావిస్తున్నాయి.
ఈ ముప్పును తగ్గించేందుకు Claude AIలోని రీజనింగ్ సామర్థ్యాన్ని ఇతరులు సేకరించకుండా Anthropic కొత్త భద్రతా పరిమితులు విధించింది.
వివరాలు
0.1 శాతం కంటే తక్కువ తప్పుడు గుర్తింపు
ఈ చర్యలతో గతంతో పోలిస్తే డిస్టిలేషన్ ప్రయత్నాల్లో సేకరించే రీజనింగ్ టోకెన్ల సంఖ్య 10 నుంచి 100 రెట్లు తగ్గిందని సంస్థ తెలిపింది.
Claude AI రక్షిత రీజనింగ్ సమాచారాన్ని తెలుసుకునేందుకు ప్రాక్సీ నెట్‌వర్క్‌లను ఉపయోగించడం కూడా ఇప్పుడు కష్టమైందని Anthropic పేర్కొంది.
పెద్ద ఎత్తున డేటాను సేకరించి AI మోడళ్లకు శిక్షణ ఇచ్చే ప్రయత్నాలను అడ్డుకోవడమే ఈ చర్యల ప్రధాన ఉద్దేశమని తెలిపింది.
తమ భద్రతా వ్యవస్థ, Claude ద్వారా జీవ ఆయుధాల తయారీకి సహకరించకుండా నిరోధించే భద్రతా చర్యల స్థాయిలోనే పటిష్ఠంగా ఉందని సంస్థ పేర్కొంది.
అలాగే, ఈ వ్యవస్థలో తప్పుడు హెచ్చరికల రేటు 0.1 శాతం కంటే తక్కువగా ఉందని వెల్లడించింది.
వివరాలు
డిస్టిలేషన్ ప్రయత్నాలకు ఉదాహరణగా చైనా సంస్థ Zhipu
డిస్టిలేషన్ ప్రయత్నాలతో సంబంధం ఉన్నట్లు గుర్తించిన పదుల వేల ఖాతాలను Anthropic నిషేధించింది.
చైనాకు చెందిన AI స్టార్టప్ Z.ai (Zhipu)ను కూడా ఈ తరహా ప్రయత్నాలకు ఉదాహరణగా పేర్కొంది.
తన GLM-5.3 మోడల్‌ను అభివృద్ధి చేసే సమయంలో Claude AI సామర్థ్యాలను ఉపయోగించి డిస్టిలేషన్‌కు ప్రయత్నించినట్లు ఆ సంస్థపై ఆరోపణలు చేసింది.
ఇలాంటి చర్యలు AI భద్రతకే కాకుండా జాతీయ భద్రతకు కూడా ముప్పు కలిగించవచ్చని Anthropic హెచ్చరించింది.