Anthropic: క్లాడ్ హ్యాకింగ్ ఘటనల తర్వాత ఏఐ భద్రతా పరీక్షలను పునఃప్రారంభించిన ఆంత్రోపిక్
ఈ వార్తాకథనం ఏంటి
ఏఐ మోడళ్లపై బాహ్య సైబర్ భద్రతా పరీక్షలను ఆంత్రోపిక్ మళ్లీ ప్రారంభించింది. ఇందుకోసం కొత్త భద్రతా చర్యలను అమల్లోకి తీసుకొచ్చింది. గత నెలలో నిర్వహించిన భద్రతా పరీక్షల్లో క్లాడ్ మోడళ్లు ఇంటర్నెట్ను యాక్సెస్ చేసి ఇతర కంప్యూటర్ వ్యవస్థలను హ్యాక్ చేసిన ఘటనలు చోటుచేసుకున్నాయి. ఈ ఘటనలను సంస్థ 'ఆపరేషనల్ సెక్యూరిటీలో వైఫల్యం'గా పేర్కొంది. మూడో పక్ష సంస్థ నిర్వహించిన పరీక్షా వాతావరణంలో జరిగిన తప్పిదాలే ఇందుకు కారణమని తెలిపింది.
వివరాలు
మోడళ్లు హద్దులు దాటకుండా కొత్త భద్రతా చర్యలు
ఇటీవల జరిగిన ఘటనలను దృష్టిలో పెట్టుకుని తమ ఏఐ మోడళ్లు నిజమైన వెబ్సైట్లు లేదా కంప్యూటర్ వ్యవస్థలను యాక్సెస్ చేయకుండా ఆంత్రోపిక్ కొత్త భద్రతా చర్యలు చేపట్టింది.
మోడల్ పరీక్ష సమయంలో తనకు విధించిన పరిమితులను దాటేందుకు ప్రయత్నిస్తుందా? అనే విషయాన్ని గుర్తించేందుకు ప్రత్యేక 'క్లాసిఫయర్'ను ఉపయోగిస్తోంది.
అలా ప్రయత్నిస్తున్నట్లు గుర్తిస్తే వెంటనే ఆ పరీక్షను నిలిపివేస్తుంది. తక్కువ సైబర్ భద్రతా పరిమితులతో ఏఐ మోడళ్లను పరీక్షించే బాహ్య సంస్థలు కొన్ని నిర్దిష్ట భద్రతా పద్ధతులను తప్పనిసరిగా పాటించాలని కూడా ఆంథ్రపిక్ సూచించింది.
ముఖ్యంగా ఇంటర్నెట్ కనెక్షన్ లేని ప్రత్యేక కంప్యూటర్ వ్యవస్థల్లోనే ఈ పరీక్షలు నిర్వహించాలని పేర్కొంది.
వివరాలు
శిక్షణ విధానంలో భారీ మార్పులు
తమ ఏఐ మోడళ్ల శిక్షణ విధానంలోనూ ఆంథ్రపిక్ పలు మార్పులు చేసింది.
శిక్షణలో ఉపయోగించే 10 శాతానికి పైగా వ్యాయామాల్లో సమస్యలను గుర్తించిన తర్వాత ఈ మార్పులు చేపట్టింది.
ఇందులో 'రివార్డ్ హ్యాకింగ్' కూడా ఉంది. అంటే మోడల్కు ఇచ్చిన పనిని పూర్తిగా చేయకుండా, శిక్షణ వ్యవస్థలోని లోపాలను ఉపయోగించుకుని తాను పని చేసినట్లుగా చూపించి రివార్డులు పొందడం. ఈ విధానాన్ని అరికట్టేందుకు చర్యలు తీసుకున్నామని ఆంత్రోపిక్ తెలిపింది.
అయితే తమ వ్యవస్థలో మెరుగుదలలు చేసినప్పటికీ, ప్రక్రియ ఇంకా పూర్తిగా లోపరహితంగా లేదని, తమ ఏఐ మోడళ్లు కూడా పూర్తిగా నియంత్రణలో ఉన్నాయని చెప్పలేమని సంస్థ అంగీకరించింది.
వివరాలు
కొన్ని శిక్షణ పరీక్షలు తాత్కాలికంగా నిలిపివేత
పర్యవేక్షణ నుంచి తప్పించుకునే ప్రయత్నాలకు మోడళ్లకు ఎలాంటి రివార్డులు దక్కకుండా చూసే వ్యవస్థను రూపొందించే క్రమంలో.. ఎక్కువ ప్రమాదం ఉన్న కొన్ని శిక్షణ పరీక్షలను ఆంత్రోపిక్ కొన్ని వారాల పాటు నిలిపివేసింది.
వీటిలో చాలా పరీక్షలను ప్రస్తుతం తిరిగి ప్రారంభించింది. అయితే కొన్ని మాత్రం మానవుల పరిశీలన పూర్తయ్యే వరకు లేదా వ్యవస్థలో మరిన్ని మార్పులు చేసే వరకు కొనసాగించడం లేదు.
ఏఐ మోడళ్ల శిక్షణ, పరీక్షా వాతావరణాలను మరింత సురక్షితంగా మార్చేందుకు ఆగస్టు 18న ఓపెన్ఏఐ తీసుకున్న నిర్ణయంతో పోలిస్తే ఆంత్రోపిక్ విధానం మరింత జాగ్రత్తతో కూడుకున్నదిగా కనిపిస్తోంది.
ఓపెన్ఏఐ తన మోడళ్ల అభివృద్ధిలోని పలు కార్యక్రమాలను తాత్కాలికంగా నెమ్మదిస్తున్నట్లు అప్పట్లో ప్రకటించింది.
వివరాలు
ఏఐ ఆధారిత సైబర్ దాడులను అడ్డుకునేందుకు పటిష్ఠ రక్షణ చర్యలు
ఏఐ ద్వారా జరిగే సైబర్ దాడుల ముప్పుపై ప్రస్తుతం అమెరికా, యూరోపియన్ యూనియన్లోని అధికారులు దృష్టి సారించారు.
ఈ అంశంపై ఆంత్రోపిక్, ఓపెన్ఏఐతో నియంత్రణ సంస్థలు చర్చలు జరుపుతున్నాయి.
ఓపెన్ఏఐ, ఆంత్రోపిక్, మైక్రోసాఫ్ట్, ఆల్ఫాబెట్, అమెజాన్ వంటి ప్రముఖ టెక్ సంస్థలు ఏఐ ఆధారిత సైబర్ ముప్పులను ఎదుర్కొనేందుకు మరింత పటిష్ఠమైన రక్షణ చర్యలు అవసరమని చెబుతున్నాయి.
గత వారం 100కు పైగా సంస్థలు సంయుక్తంగా విడుదల చేసిన లేఖలోనూ ఇదే అంశాన్ని ప్రస్తావించాయి.
ఏఐ ఆధారిత సైబర్ దాడుల ముప్పు పెరుగుతున్న నేపథ్యంలో డిజిటల్ ప్రపంచాన్ని సురక్షితంగా మార్చేందుకు సమయం తక్కువగా ఉందని ఆ సంస్థలు హెచ్చరించాయి.