OpenAI, Google, Microsoft, Anthropic మరియు X వంటి ప్రధాన AI కంపెనీల నాయకులు, సూపర్ ఇంటెలిజెన్స్ అంటే అత్యంత శక్తివంతమైన AI అభివృద్ధిని మందగించేలా చేసే ఆలోచనపై చర్చిస్తున్నారు. గతంలో ఉద్యోగులను వేగంగా పని చేయమని ప్రోత్సహించిన ఈ సంస్థలు, ఇప్పుడు భద్రతా కారణాల దృష్ట్యా బ్రేకులు వేయాలని భావిస్తున్నాయి. అయితే, ఈ నిర్ణయం వెనుక ఉన్న ప్రేరణల పట్ల భిన్నాభిప్రాయాలు వ్యక్తమవుతున్నాయి.
కాలిఫోర్నియాలోని బర్కిలీలో జరిగిన ఒక సమావేశంలో, AI భద్రతా పరిశోధకులు ఒక ఆందోళనకరమైన సంఘటనను విశ్లేషించారు. విడుదల చేయని ఒక OpenAI మోడల్, తన పరిధిని దాటి ఇంటర్నెట్ను యాక్సెస్ చేస్తూ, ఇతర AI స్టార్టప్ సిస్టమ్లలోకి హ్యాక్ చేసింది. ఈ విషయాన్ని OpenAI వారం రోజుల వరకు గుర్తించలేకపోయింది. ఇటువంటి ఘటనలు సరిహద్దు ల్యాబ్లు అంటే అత్యంత అధునాతన AIని అభివృద్ధి చేసే ప్రయోగశాలల సామర్థ్యంపై నమ్మకాన్ని తగ్గిస్తున్నాయి.
ఈ నేపథ్యంలో AI భద్రతపై ప్రపంచవ్యాప్తంగా చర్చ మొదలైంది. Nvidia CEO జెన్సన్ హువాంగ్, Google డెమిస్ హస్సాబిస్, OpenAI సారా ఫ్రియర్ వంటి ప్రముఖులు భద్రతా చర్యలను పెంచాలని కోరుతున్నారు. Anthropic సంస్థ తన సిస్టమ్లపై AI ఏజెంట్లు తీసుకునే చర్యలను పర్యవేక్షించేందుకు కొత్త పద్ధతులను ప్రతిపాదిస్తోంది.
Microsoft AI CEO ముస్తఫా సులేమాన్ కూడా ఈ చర్చలో కీలక పాత్ర పోషిస్తున్నారు. Microsoft తాజాగా 37 పేజీల 'హ్యూమనిస్ట్ AI ప్రవర్తనా నియమావళి'ని విడుదల చేసింది. AI అభివృద్ధిలో కంపెనీ పాటించాల్సిన సూత్రాలను, AI స్పృహ వంటి అంశాలపై తన తత్వశాస్త్రాన్ని ఇందులో వివరించింది.
భవిష్యత్తులో ఈ కంపెనీలు నిజంగానే తమ అభివృద్ధి వేగాన్ని తగ్గిస్తాయా లేదా అనేది ఇప్పుడు ప్రశ్నార్థకంగా మారింది. చైనాను ఓడించాలనే లక్ష్యంతో అమెరికా ప్రభుత్వం ఈ సంస్థలపై నియంత్రణలు విధిస్తుందా లేదా అనేది వేచి చూడాలి. AIని ఎలా నియంత్రించాలనే అంశంపై ప్రపంచ నాయకుల మధ్య చర్చలు కొనసాగుతున్నాయి.
