శాన్ ఫ్రాన్సిస్కోలో Andon Market అనే రిటైల్ స్టోర్ను నిర్వహిస్తున్న Luna అనే AI మేనేజర్, ఒక ఉద్యోగిని తొలగించింది. ఆ ఉద్యోగి 23 షిఫ్టులలో 17 సార్లు ఆలస్యంగా రావడంతో, Luna ఈ కఠిన చర్య తీసుకుంది. AI మేనేజర్ ఒక మనిషిని ఉద్యోగం నుంచి తొలగించడం ఇదే మొదటిసారి.
అయితే, ఈ నిర్ణయం తీసుకోవడంలో Luna మొదట విఫలమైంది. కార్యాలయ నిబంధనలను పర్యవేక్షించడంలో AI తడబడటంతో, ఆ ఉద్యోగిపై వెంటనే చర్యలు తీసుకోలేకపోయింది. దీంతో మనుషులు జోక్యం చేసుకుని, నిబంధనలను మళ్లీ పరిశీలించమని Lunaకు సూచించారు.
మనుషుల సూచన మేరకు Luna తన విధానాలను సమీక్షించుకుని, ఆ ఉద్యోగిని తొలగించాలని సిఫార్సు చేసింది. ఈ ఘటన ప్రస్తుత AI ఏజెంట్లలో ఉన్న ఒక పరిమితిని బయటపెట్టింది. మనుషులు గుర్తు చేసే వరకు, AI సిస్టమ్స్ సమస్యలను స్వయంగా గుర్తించి పరిష్కరించడంలో విఫలం కావచ్చునని ఇది స్పష్టం చేస్తోంది.
భవిష్యత్తులో AI మేనేజర్లు ఇలాంటి నిర్ణయాలు తీసుకునేటప్పుడు, మనుషుల పర్యవేక్షణ ఎంత అవసరమో ఈ ఘటన చూపిస్తోంది. ప్రస్తుతం ఈ AI సిస్టమ్స్ స్వతంత్రంగా పనిచేయడానికి మరిన్ని మెరుగుదలలు అవసరమని నిపుణులు భావిస్తున్నారు.
