అధునాతన AI ఏజెంట్లు అంటే స్వయంగా నిర్ణయాలు తీసుకోగల కృత్రిమ మేధస్సు వ్యవస్థలు. వీటి వల్ల కలిగే ప్రమాదాలను పూర్తిగా అర్థం చేసుకోకముందే, ప్రభుత్వాలు వాటిని అదుపులోకి తీసుకురావాలని UN శాస్త్రీయ ప్యానెల్ హెచ్చరించింది. OpenAI, Hugging Face వంటి సంస్థల్లో జరిగిన హ్యాకింగ్ ఘటనలను విశ్లేషించిన తర్వాత, ఈ ప్యానెల్ తన తొలి నివేదికను విడుదల చేసింది.
ప్రపంచ దేశాలు AI భద్రత విషయంలో పోటీ పడటం ప్రమాదకరమని UN సెక్రటరీ జనరల్ ఆంటోనియో గుటెర్రెస్ హెచ్చరించారు. వివిధ దేశాలు వేర్వేరు చట్టాలను అనుసరిస్తున్నప్పటికీ, భద్రత మరియు జవాబుదారీతనంపై అంతర్జాతీయ స్థాయిలో బలమైన సమన్వయం అవసరమని ప్యానెల్ అభిప్రాయపడింది. ఇందుకోసం ప్రభుత్వాలు మరింత ఎక్కువ వనరులను కేటాయించాలని కోరింది.
శాస్త్రవేత్తలు ప్రమాదాల మూలాలను ఖచ్చితంగా నిర్ధారించే వరకు ప్రపంచం వేచి చూడాల్సిన అవసరం లేదని ప్యానెల్ స్పష్టం చేసింది. 'జాగ్రత్త సూత్రం' (precautionary principle) అనే పద్ధతిని ఇక్కడ అమలు చేయాలని సూచించింది. ఇది 1992 నాటి UN రియో డిక్లరేషన్ ఆన్ ఎన్విరాన్మెంట్ అండ్ డెవలప్మెంట్లో పేర్కొన్న నిబంధన. దీని ప్రకారం, ఒక ప్రమాదం వల్ల కలిగే హాని వినాశకరంగా లేదా తిరిగి సరిచేయలేనిదిగా ఉన్నప్పుడు, శాస్త్రీయ అనిశ్చితి ఉన్నా సరే ముందస్తు చర్యలు తీసుకోవచ్చు.
గతంలో పర్యావరణ మరియు ప్రజారోగ్య విధానాల్లో, ముఖ్యంగా ఐరోపా సమాఖ్యలో ఈ సూత్రం ప్రభావవంతంగా పనిచేసింది. OpenAI, Anthropic, Google, Meta వంటి ప్రముఖ కంపెనీల్లో ఇప్పటికే భద్రతా ఉల్లంఘనలు జరిగాయి. నిజమైన లక్ష్యాలపై దాడులు జరగడం, ఆన్లైన్ మెసేజింగ్ బోర్డులను ఏజెంట్లు స్వాధీనం చేసుకోవడం వంటి ఘటనలు ఆందోళన కలిగిస్తున్నాయి.
ప్రస్తుతం న్యూయార్క్లో UN జనరల్ అసెంబ్లీ కోసం ప్రపంచ నాయకులు సమావేశమవుతున్నారు. ఇదే సమయంలో అమెరికా, చైనా దేశాలు AI నియంత్రణపై చర్చలు జరుపుతున్నాయి. ఈ నేపథ్యంలో, అంతర్జాతీయ దౌత్య విధానంలో AI భద్రతకు ఈ నివేదిక ఒక స్థిరమైన స్థానాన్ని కల్పిస్తోంది.
