Anthropic: నకిలీ ఏఐలకు చెక్ పెట్టేందుకు ఆంత్రోపిక్ సరికొత్త వ్యవస్థ
ఈ వార్తాకథనం ఏంటి
ఒక ఏఐ టూల్ ఇచ్చిన సమాధానం నిజంగానే ఆ మోడల్ రూపొందించిందా? లేక మరో చౌకైన ఏఐతో సమాధానం తయారు చేసి వినియోగదారులకు చూపిస్తున్నారా? ఇకపై ఇలాంటి సందేహాలకు చెక్ పెట్టేందుకు ప్రముఖ ఏఐ సంస్థ ఆంత్రోపిక్ సరికొత్త ప్రయత్నం చేస్తోంది. ఏఐ మోడల్ ఇచ్చిన సమాధానం వెనుక అసలు మోడల్ ఏదో క్రిప్టోగ్రఫీ సాయంతో నిర్ధారించే 'FlashProve' అనే ఓపెన్ సోర్స్ వ్యవస్థను అభివృద్ధి చేస్తోంది. దీనివల్ల వినియోగదారులు తాము ఉపయోగిస్తున్నట్లు భావిస్తున్న ఏఐ మోడలే సమాధానం ఇచ్చిందో లేదో ధ్రువీకరించుకోవచ్చు.
Details
సమాధానం వెనుక ఏఐ ఏదో ఎలా తెలుస్తుంది?
సాధారణంగా ఒక ఏఐ సంస్థ తన అత్యాధునిక మోడల్ ద్వారా సమాధానాలు ఇస్తున్నట్లు చెబితే, దాన్ని వినియోగదారులు నేరుగా నమ్మాల్సి వస్తుంది.
కానీ FlashProve ఈ పరిస్థితిని మార్చే లక్ష్యంతో రూపొందుతోంది. ఇందులో 'ప్రూవబుల్ ఇన్‌ఫరెన్స్' అనే విధానం ఉపయోగిస్తారు. అంటే ఒక నిర్దిష్ట ఏఐ మోడల్ రూపొందించిన సమాధానమేనని క్రిప్టోగ్రాఫిక్ ఆధారంతో నిరూపించవచ్చు.
ఈ ప్రక్రియ ఈ-మెయిల్ డిజిటల్ సంతకాల తరహాలో పనిచేస్తుంది. పంపిన వ్యక్తి ఎవరో నిర్ధారించినట్లే, సమాధానం ఇచ్చిన ఏఐ మోడల్ గుర్తింపును కూడా ధ్రువీకరించవచ్చు.
Details
చౌక మోడళ్లతో మోసం చేయడం కుదరదా?
ఈ వ్యవస్థ వల్ల ఏఐ సంస్థలు ఖర్చు తగ్గించుకోవడానికి వినియోగదారులకు తెలియకుండా ఖరీదైన మోడల్ స్థానంలో చౌకైన మోడల్‌ను ఉపయోగించడం కష్టమవుతుంది.
అలాగే ఒక సంస్థ తన పనితీరును ఎక్కువగా చూపించేందుకు అత్యాధునిక ఏఐ మోడల్ ఉపయోగించామని తప్పుడు ప్రచారం చేసినా దాన్ని గుర్తించే అవకాశం ఉంటుంది.
సైబర్ సెక్యూరిటీ పరీక్షలు, వ్యాపార ప్రణాళికల పరిశీలన వంటి కీలక పనులను నిజంగా ఏ మోడల్ చేసిందో నిర్ధారించడానికి కూడా ఇది ఉపయోగపడుతుంది.
Details
మోడల్ రహస్యాలు బయటపడకుండా భద్రత
ప్రతి ఏఐ సంస్థ తాను విడుదల చేసే మోడల్‌కు ప్రత్యేకమైన ఫింగర్‌ప్రింట్‌ను ప్రచురించాల్సి ఉంటుంది. ఆ గుర్తింపును ఉపయోగించి వచ్చిన సమాధానాలను ధ్రువీకరించవచ్చు.
అయితే ఈ ఫింగర్‌ప్రింట్ వల్ల మోడల్ అంతర్గత నిర్మాణాన్ని నిర్ణయించే వెయిట్స్ బయటపడవు. అంటే సంస్థల వాణిజ్య రహస్యాలకు భంగం కలగకుండా ఈ విధానాన్ని ఉపయోగించుకోవచ్చు.
అంతేకాదు, ధ్రువీకరణ ప్రక్రియను వినియోగదారుల స్థానిక పరికరాల్లోనే నిర్వహించేలా తక్కువ వనరులతో పనిచేసే విధంగా రూపొందిస్తున్నారు.
Details
ప్రస్తుతం పరిశోధన దశలోనే ఫ్లాష్‌ప్రూవ్
ఈ ప్రాజెక్టుకు సంబంధించిన సాంకేతిక వివరాలు, పనిచేసే కోడ్‌లోని పలు భాగాలను ఆంత్రోపిక్ పరిశోధకులు GitHubలో ఓపెన్ సోర్స్ లైసెన్స్‌తో అందుబాటులోకి తెచ్చారు.
ఇతర పరిశోధకులు కూడా ఈ వ్యవస్థను పరిశీలించి మెరుగుపరచాలన్నది సంస్థ ఉద్దేశం. అయితే FlashProve ఇంకా పరిశోధన దశలోనే ఉంది.
ఆంత్రోపిక్‌తో పాటు ఇతర ఏఐ సంస్థల్లోనూ దీన్ని అమలు చేసే ప్రణాళికలు ప్రస్తుతానికి లేవు. భవిష్యత్తులో ఈ సాంకేతికత అందుబాటులోకి వస్తే ఏఐ సమాధానాలపై నమ్మకాన్ని పెంచడంలో కీలక పాత్ర పోషించవచ్చు.