శాన్ ఫ్రాన్సిస్కో కేంద్రంగా పనిచేసే AI స్టార్టప్ Anthropic, తన ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) మోడళ్లను సైబర్ దాడులు, నిఘా, జీవ ఆయుధాల పరిశోధనల కోసం దుర్వినియోగం చేసే ప్రయత్నాలను అడ్డుకున్నట్లు గురువారం ప్రకటించింది. AI మోడళ్లు మరింత శక్తివంతం కావడంతో, గతంలో నిపుణులకు మాత్రమే సాధ్యమైన క్లిష్టమైన సైబర్ దాడులను ఇప్పుడు ఒంటరి వ్యక్తులు కూడా చేసే అవకాశం ఉందని కంపెనీ హెచ్చరించింది.
2025 డిసెంబర్ నుంచి 2026 ఆగస్టు మధ్య కాలంలో స్పైవేర్ విక్రేతలు, ప్రభుత్వ మద్దతు ఉన్న సమూహాల నుంచి ఇలాంటి ప్రయత్నాలు జరిగినట్లు Anthropic గుర్తించింది. ముఖ్యంగా చికున్గున్యా వైరస్ను మరింత హానికరం చేసేలా మార్పులు చేసేందుకు జరిగిన ఒక పరిశోధన అభ్యర్థనను తమ వ్యవస్థలు తిరస్కరించినట్లు కంపెనీ పేర్కొంది. ఇది గెయిన్-ఆఫ్-ఫంక్షన్ పరిశోధన (అంటే కొత్త లేదా మెరుగైన జీవ లక్షణాన్ని సృష్టించడానికి జీవిని జన్యుపరంగా మార్చే ప్రక్రియ) కిందకు వస్తుందని నివేదిక వివరించింది.
ఈ తరహా పరిశోధనలను టీకాల అభివృద్ధికి ఉపయోగించవచ్చని, అయితే రోగకారకాలను ప్రమాదకరంగా మార్చడానికి కూడా వాడవచ్చని Anthropic తెలిపింది. అందుకే తన తాజా మోడళ్లలో భద్రతా చర్యలను మరింత కఠినతరం చేసినట్లు కంపెనీ వెల్లడించింది. తాము గుర్తించిన హానికరమైన కోడ్, AI ప్రాంప్ట్ల వివరాలను నివేదికలో పొందుపరిచామని, ఇలాంటి దుర్వినియోగాన్ని నివారించేందుకు ప్రభుత్వాలు, ఇతర AI సంస్థలు కలిసి పనిచేయాలని కోరింది.
తాము విడుదల చేసిన ఈ నివేదికలో పేర్కొన్న ఏ కేసు కూడా కొత్త తరం Claude Fable లేదా Mythos మోడళ్లను ఉపయోగించలేదని కంపెనీ స్పష్టం చేసింది. అయితే, ఒక మోడల్ సామర్థ్యాలను రహస్యంగా సంగ్రహించి మరో మోడల్లో పునరావృతం చేసే 'అక్రమ డిస్టిలేషన్' ప్రయత్నం ఒకటి జరిగిందని పేర్కొంది. పాత మోడళ్లు ప్రమాదకరమైన జీవ పరిశోధనలకు సహాయపడే స్థాయిలో లేవని కంపెనీ వివరించింది.
ఈ నివేదిక వెలువడటానికి రెండు రోజుల ముందే, AI అభివృద్ధిలో బాధ్యతాయుతమైన పద్ధతులు పాటించడం లేదని ఆరోపిస్తూ Anthropic పరిశోధకుడొకరు రాజీనామా చేశారు. AI సాంకేతికత మానవ నియంత్రణను దాటిపోయే ప్రమాదం ఉందని ఆయన ఆందోళన వ్యక్తం చేశారు. ఈ ఏడాది శరదృతువులో ప్రారంభ పబ్లిక్ ఆఫరింగ్ (IPO - కంపెనీ మొదటిసారిగా ప్రజలకు షేర్లను విక్రయించే ప్రక్రియ) చేపట్టాలని Anthropic ప్రణాళికలు సిద్ధం చేస్తోంది.
