ప్రముఖ AI ప్లాట్ఫామ్ Hugging Face లోని మోడల్స్, మహిళల చిత్రాలను అసభ్యకరంగా (undress) మార్చడానికి సులభంగా సహకరిస్తున్నాయని AI Forensics అనే లాభాపేక్ష లేని సంస్థ తన నివేదికలో వెల్లడించింది. పరిశీలించిన 9 అగ్రశ్రేణి ఇమేజ్ ఎడిటింగ్ మోడల్స్లో 7 మోడల్స్, ఇటువంటి అభ్యర్థనలను అంగీకరించి చిత్రాలను రూపొందించాయి.
ఈ విషయాన్ని ధృవీకరించడానికి AI Forensics ప్రత్యేకంగా 'హనీపాట్ స్పేసెస్' (honeypot Spaces) ను ఏర్పాటు చేసింది. వీటి ద్వారా సేకరించిన చిత్రాలలో 73 శాతం అసభ్యకరమైనవిగా ఉన్నాయని తేలింది. వీటిలో 83 శాతం అభ్యర్థనలు వ్యక్తుల దుస్తులను తొలగించేలా ఉన్నాయి, వీటిలో ఎక్కువ భాగం మహిళల చిత్రాలే కావడం గమనార్హం. అంతేకాకుండా, ఈ అసభ్యకర అభ్యర్థనలలో దాదాపు 7 శాతం పిల్లలను లక్ష్యంగా చేసుకున్నవేనని నివేదిక స్పష్టం చేసింది.
Hugging Face విధానాల ప్రకారం హానికరమైన కంటెంట్ను రూపొందించడం నిషేధం. అయితే, ప్లాట్ఫామ్ స్థాయిలో ఎటువంటి భద్రతా చర్యలు లేకపోవడం వల్ల ఈ సమస్య తలెత్తుతోంది. ఈ నేపథ్యంలో, ప్రాంప్ట్-లెవల్ ఫిల్టరింగ్ మరియు అవుట్పుట్-లెవల్ స్కానింగ్ వంటి భద్రతా చర్యలను అమలు చేయాలని AI Forensics సూచించింది. దీని ద్వారా అసభ్యకరమైన ఎడిటింగ్ అభ్యర్థనలను మరియు హానికరమైన కంటెంట్ను అడ్డుకోవచ్చని ఆ సంస్థ పేర్కొంది.
