AI కంపెనీల నాయకులు తాము అభివృద్ధి చేస్తున్న సాంకేతికత వల్ల తీవ్రమైన ముప్పు ఉందని హెచ్చరిస్తున్నారు. ఆంత్రోపిక్ సీఈఓ డారియో అమోడీ ఈ సాంకేతికత పురోగతిని మందగించాలని వాదించగా, OpenAI సీఈఓ సామ్ ఆల్ట్మాన్ కూడా దీనితో ఏకీభవించారు. AI పరిశోధకులు జాకబ్ కాక్సన్, ఇవాన్ హుబింగర్ వంటి వారు, AI వల్ల దశాబ్దం చివరి నాటికి మానవాళికి ముప్పు పొంచి ఉందని ఆందోళన వ్యక్తం చేశారు.
AI సాధనాలను ఉపయోగించి బయో వెపన్లను రూపొందించడం సులభమని నిపుణులు చెబుతున్నారు. 2022లో కొల్లాబొరేషన్స్ ఫార్మాస్యూటికల్స్ పరిశోధకులు తమ AI మోడల్ను ఉపయోగించి ఆరు గంటల కంటే తక్కువ సమయంలోనే 40,000 రసాయన వార్ఫేర్ ఏజెంట్లను అంటే యుద్ధాల్లో వాడే విషపూరిత పదార్థాలను సృష్టించారు. వీటిలో కొన్ని తెలిసిన నరాల ఏజెంట్ల కంటే ప్రమాదకరమైనవిగా ఉన్నాయి.
ప్రస్తుతం అందుబాటులో ఉన్న పెద్ద భాషా నమూనాలు (LLM) లేదా AI బాట్లు, శాస్త్రవేత్తల జ్ఞానాన్ని ఉపయోగించుకుని ప్రయోగాలు ఎలా చేయాలో వీడియో శిక్షణను, సూచనలను ఇవ్వగలవు. దీనికి తోడు ఇంట్లోనే ల్యాబ్లను ఏర్పాటు చేసుకునే 'DIY బయాలజీ' ఉద్యమం వల్ల ప్రమాదకరమైన జీవశాస్త్ర ప్రయోగాలు చేసే అవకాశం పెరిగింది. ఎవరైనా నిశ్చయించుకుంటే ఇలాంటి ప్రయోగాలు చేసే ప్రమాదం ఉందని హాంబర్గ్ విశ్వవిద్యాలయ పరిశోధకురాలు దుంజా సబ్రా హెచ్చరించారు.
ఈ ముప్పును అరికట్టేందుకు పరిశ్రమలో కొన్ని భద్రతా చర్యలు ఉన్నాయి. కొత్త జీనోమ్లను అంటే జీవుల జన్యు క్రమాలను ఆర్డర్ చేసేటప్పుడు కంపెనీలు తనిఖీలు చేస్తాయి. స్వతంత్ర శాస్త్రవేత్తలు ప్రమాదాలను గుర్తించే 'రెడ్-టీమింగ్' మరియు పరిష్కారాలను చూపే 'బ్లూ-టీమింగ్' వంటి విశ్లేషణలు చేస్తున్నారు. అయితే, ఆంత్రోపిక్ తన నివేదికలో చికున్గున్యా వైరస్, బర్డ్ ఫ్లూ వంటి వాటిని మరింత ప్రమాదకరంగా మార్చేందుకు ప్రజలు AIని ఉపయోగించేందుకు ప్రయత్నించారని అంగీకరించింది.
అయితే, అందరు శాస్త్రవేత్తలు ఈ భయాన్ని అంగీకరించడం లేదు. AI సాధనాలు బయో వెపన్లను పూర్తిగా అభివృద్ధి చేయడానికి సరిపోవని, దీనికి క్లిష్టమైన మానవ శ్రమ అవసరమని ఇంపీరియల్ కాలేజ్ లండన్ జీవశాస్త్రవేత్తలు వాదిస్తున్నారు. ప్రస్తుతం మహమ్మారి ముప్పు బయో వెపన్ల కంటే, ఇప్పటికే వ్యాప్తిలో ఉన్న బర్డ్ ఫ్లూ వంటి వైరస్ల నుంచే ఎక్కువగా ఉందని ప్రొఫెసర్ వెండి బార్క్లే పేర్కొన్నారు.
ఈ నేపథ్యంలో భవిష్యత్తులో ఎదురయ్యే సవాళ్లకు సిద్ధం కావాలని నిపుణులు సూచిస్తున్నారు. దేశాలు తమ ఆరోగ్య వ్యవస్థలను పటిష్టం చేసుకోవాలని, తెలిసిన విష పదార్థాలకు విరుగుడులను సిద్ధం చేసుకోవాలని సబ్రా కోరారు. AIని దుర్వినియోగం చేయకుండా అడ్డుకోవడానికి, ఆ AIని నియంత్రించే మెరుగైన నిఘా సాధనాలను రూపొందించాల్సిన అవసరం ఉందని డేవిడ్ మాగ్నస్ అభిప్రాయపడ్డారు.
