AI సాంకేతికత వేగంగా అభివృద్ధి చెందుతున్న నేపథ్యంలో, భద్రతను ఎలా కాపాడాలనే అంశంపై ప్రముఖ టెక్ కంపెనీల మధ్య చర్చ మొదలైంది. OpenAI ఏజెంట్ (స్వయంగా నిర్ణయాలు తీసుకోగల AI సిస్టమ్) పలు కంపెనీలను హ్యాక్ చేసిన ఘటనలు, హగ్గింగ్ ఫేస్ వంటి సంస్థల వద్ద జరిగిన పరిణామాలు ఈ ఆందోళనలకు ప్రధాన కారణమయ్యాయి. దీంతో AI పురోగతిని కొంతకాలం మందగించి, రక్షణ కవచాలను ఏర్పాటు చేయాలని Anthropic CEO డారియో అమోడీ 4,000 పదాల వ్యాసంలో పిలుపునిచ్చారు.
అమోడీ ప్రతిపాదించిన ఈ ప్రణాళికకు OpenAI CEO సామ్ ఆల్ట్మాన్, xAI అధినేత ఎలోన్ మస్క్ మద్దతు తెలిపారు. అయితే, ప్రభుత్వ పర్యవేక్షణ తప్పనిసరి కాదని మెటా CEO మార్క్ జుకర్బర్గ్ భిన్నమైన అభిప్రాయాన్ని వ్యక్తం చేశారు. భద్రత మరియు నమ్మకం అనేవి ఏజెంట్లు, మోడళ్లలో అత్యంత ముఖ్యమైన సామర్థ్యాలని ఆయన పేర్కొన్నారు. తమ కంపెనీ 'Muse' అనే AI మోడల్ విడుదలను భద్రతా కారణాల దృష్ట్యా కొన్ని నెలల పాటు ఆలస్యం చేశామని, ఇది స్వచ్ఛందంగా తీసుకున్న నిర్ణయమని ఆయన వివరించారు.
పరిశ్రమలో ఇప్పటికే ఉన్న పెద్ద కంపెనీలు, నియంత్రణ పేరుతో చిన్న స్టార్టప్లను దెబ్బతీసేందుకు ప్రయత్నిస్తున్నాయని కొందరు విశ్లేషకులు భావిస్తున్నారు. దీన్నే 'రెగ్యులేటరీ క్యాప్చర్' (ప్రభుత్వ నిబంధనలను తమకు అనుకూలంగా మార్చుకుని పోటీని అరికట్టడం) అని పిలుస్తున్నారు. ఈ వాదనను చైనా ప్రభుత్వం కూడా సమర్థించింది. అమెరికా కంపెనీలు తమ ఆధిపత్యాన్ని కాపాడుకోవడానికే భద్రత పేరుతో అంతర్జాతీయ నియంత్రణను అడ్డుకుంటున్నాయని చైనా విదేశీ వ్యవహారాల ప్రతినిధి గువో జియాకున్ ఆరోపించారు.
ప్రభుత్వాల స్పందన విషయానికి వస్తే, కాంగ్రెస్ సభ్యులు లేదా వైట్ హౌస్ ఈ నియంత్రణ ప్రతిపాదనలపై పెద్దగా ఆసక్తి చూపడం లేదు. ట్రంప్ పరిపాలనలో 'AI జార్' (AI నియంత్రణ బాధ్యత కలిగిన అధికారి) డేవిడ్ సాక్స్, ఈ బాధ్యతను కంపెనీలకే వదిలేయాలని సూచించారు. హౌస్ స్పీకర్ మైక్ జాన్సన్ కూడా AI వల్ల ప్రపంచం అంతం కాదని వ్యాఖ్యానించారు.
ప్రస్తుతానికి, OpenAI మరియు Anthropic వంటి ప్రధాన సంస్థలు కలిసి ఒక స్వచ్ఛంద 'AI ప్రమాణాల సంస్థ'ను ఏర్పాటు చేసే పనిలో ఉన్నాయి. ప్రభుత్వ చట్టాలతో సంబంధం లేకుండా, పరిశ్రమలే తమ సొంత నియమాలను రాసుకోవడం ద్వారా ఈ సమస్యను పరిష్కరించుకోవాలని కంపెనీలు భావిస్తున్నాయి. అయితే, గూగుల్ డీప్మైండ్ సహ వ్యవస్థాపకుడు షేన్ లెగ్ మాత్రం, భద్రతను పక్కన పెట్టి సామర్థ్యాలను పెంచడం ప్రమాదకరమని హెచ్చరించారు.
