Google Earth ప్లాట్ఫామ్లో టెక్స్ట్ ప్రాంప్ట్స్ ద్వారా శాటిలైట్ చిత్రాలను ఎడిట్ చేసే కొత్త AI ఫీచర్ను Google అందుబాటులోకి తెచ్చింది. అయితే, ఈ టూల్ ప్రారంభించిన ఒక్క రోజులోనే కంపెనీ దీనిని నిలిపివేసింది. వినియోగదారులు ఈ ఫీచర్ను ఉపయోగించి వాస్తవ ప్రపంచానికి సంబంధించిన తప్పుడు చిత్రాలను (deepfakes) సృష్టించవచ్చని గుర్తించడంతో ఈ నిర్ణయం తీసుకున్నారు.
ఈ టూల్ ద్వారా మెక్సికో సరిహద్దులో శరణార్థులు ఉన్నట్లుగా లేదా గాజాలోని ఆసుపత్రి పక్కన బాంబు పేలుడు వల్ల ఏర్పడిన గుంతలు ఉన్నట్లుగా కృత్రిమ చిత్రాలను సృష్టించే అవకాశం కలిగింది. హానికరమైన అంశాలపై ఇమేజ్ క్రియేషన్ను అడ్డుకోవడానికి తాము చర్యలు తీసుకున్నామని, అలాగే జనరేట్ అయిన చిత్రాలకు డిజిటల్ వాటర్మార్క్ జోడించామని Google పేర్కొంది.
అయితే, ఈ జాగ్రత్తలు ఉన్నప్పటికీ వినియోగదారులు AI డిటెక్షన్ టూల్స్ను సులభంగా మోసం చేయగలిగారు. జనరేట్ చేసిన చిత్రాలను గుర్తించకుండా AI సిస్టమ్లను బురిడీ కొట్టించవచ్చని తేలడంతో ఈ ఫీచర్ వివాదాస్పదమైంది.
ప్రస్తుతం ఈ ఫీచర్కు సంబంధించి మరింత పటిష్టమైన గార్డ్రైల్స్ (భద్రతా నిబంధనలు) రూపొందించే పనిలో ఉన్నట్లు Google తెలిపింది. భవిష్యత్తులో ఇటువంటి దుర్వినియోగాన్ని అరికట్టేలా మార్పులు చేయాలని కంపెనీ భావిస్తోంది.
