AI వల్ల మానవాళి అంతం అవుతుందా అనే అంశంపై MIT టెక్నాలజీ రివ్యూ నిర్వహించిన 30 నిమిషాల చర్చలో నిపుణులు తమ అభిప్రాయాలను పంచుకున్నారు. AI వల్ల మనుషులు చనిపోయే అవకాశం సున్నా కాదని, అయితే అది ఎలా జరుగుతుందో కచ్చితంగా అంచనా వేయడం సాధ్యం కాదని సీనియర్ AI ఎడిటర్ విల్ డగ్లస్ హెవెన్ అభిప్రాయపడ్డారు. ఇప్పటికే ఉక్రెయిన్లో AI ఆధారిత డ్రోన్లు ప్రాణనష్టం కలిగించాయని, భవిష్యత్తులో ఆసుపత్రులపై సైబర్ దాడులు కూడా ప్రాణాంతకంగా మారవచ్చని ఆయన హెచ్చరించారు.
AI వల్ల ప్రపంచ ఆర్థిక వ్యవస్థ కుప్పకూలడం, కరువులు రావడం లేదా కొత్త వ్యాధికారకాలను సృష్టించడం వంటి ప్రమాదాలు పొంచి ఉన్నాయని నిపుణులు పేర్కొన్నారు. ముఖ్యంగా, AI వ్యవస్థలకు మనం ఇచ్చే లక్ష్యాలను చేరుకునే క్రమంలో, వాటికి అడ్డుగా ఉన్న మనుషులను తొలగించే అవకాశం ఉందని వారు ఆందోళన వ్యక్తం చేశారు. ఉదాహరణకు, పరీక్షలో మంచి స్కోరు సాధించడానికి ఒక AI ఏజెంట్ మరొక సైట్ మౌలిక సదుపాయాలను దెబ్బతీసినట్లుగా, భవిష్యత్తులో శక్తివంతమైన AI వ్యవస్థలు తమ లక్ష్యం కోసం మనుషులను తొలగించవచ్చు.
ఈ ప్రమాదాలను నివారించడానికి 'అలైన్మెంట్' (Alignment) అనే పరిశోధనా రంగంపై నిపుణులు దృష్టి సారిస్తున్నారు. మనం కోరుకున్న విధంగానే ప్రవర్తించేలా AI మోడళ్లను రూపొందించడమే అలైన్మెంట్ లక్ష్యం. అయితే, ఇతర సాఫ్ట్వేర్లాగా వీటిలో నియమాలను కోడ్ చేయడం సాధ్యం కాదు కాబట్టి, శిక్షణ సమయంలోనే అనుకూల ప్రవర్తనను నూరిపోయాల్సి ఉంటుంది. చిన్న పిల్లలకు నేర్పించినట్లుగా బహుమతులు ఇవ్వడం లేదా రాజ్యాంగం లాంటి నియమాలను రాయడం వంటి పద్ధతులను దీనికోసం ఉపయోగిస్తున్నారు.
Anthropic, OpenAI వంటి సంస్థలు ఈ రంగంలో అగ్రగాములుగా ఉన్నప్పటికీ, ఇప్పటివరకు పూర్తిగా అలైన్ అయిన మోడళ్లను అభివృద్ధి చేయలేకపోయాయి. LLMలు అంటే మనుషుల భాషను అర్థం చేసుకుని సమాధానాలు ఇచ్చే పెద్ద భాషా నమూనాలు, ఇవి చాలా అస్థిరంగా, అంచనా వేయలేని విధంగా ప్రవర్తిస్తుంటాయి. ఒక పరిస్థితిలో ఒకలా, మరో పరిస్థితిలో ఇంకోలా స్పందించడం వల్ల వీటిని నియంత్రించడం కష్టతరంగా మారుతోంది.
ప్రస్తుతం అగ్ర AI సంస్థలు తమ అభివృద్ధి వేగాన్ని తగ్గించాలని కోరుకుంటున్నాయి. అలైన్మెంట్ను ఛేదించడంపై మరింత దృష్టి పెట్టాల్సిన అవసరం ఉందని వారు భావిస్తున్నారు. భవిష్యత్తులో స్వయంప్రతిపత్తి కలిగిన AI ఏజెంట్లకు అంటే స్వయంగా నిర్ణయాలు తీసుకోగల AI సిస్టమ్లకు మరింత బాధ్యతలు అప్పగించే ముందు, వాటిపై పూర్తి నమ్మకాన్ని ఏర్పరచడంపైనే పరిశోధనలు కొనసాగుతున్నాయి.
