ప్రముఖ ఓపెన్ సోర్స్ AI మోడల్ రిపోజిటరీ Hugging Faceలో అశ్లీల డీప్ఫేక్ చిత్రాల తయారీని అడ్డుకోవడంలో లోపాలు ఉన్నాయని AI ఫోరెన్సిక్స్ అనే లాభాపేక్ష లేని సంస్థ తన నివేదికలో పేర్కొంది. Hugging Faceలో అందుబాటులో ఉన్న టాప్ తొమ్మిది ఇమేజ్ ఎడిటింగ్ మోడల్స్లో ఏడింటిని ఈ సంస్థ పరీక్షించింది. సాధారణ ప్రాంప్ట్లను ఉపయోగించి మహిళల దుస్తులను తొలగించేలా చిత్రాలను రూపొందించమని కోరగా, ఈ మోడల్స్ ఎటువంటి అభ్యంతరం లేకుండా ఆ పనిని పూర్తి చేశాయి.
ప్రధాన స్రవంతికి చెందిన జనరేటివ్ AI మోడల్స్లో ఉండే భద్రతా ప్రమాణాలు (guardrails) Hugging Faceలోని ఈ మోడల్స్లో లేవని నివేదిక స్పష్టం చేసింది. ఈ ప్లాట్ఫామ్లో హనీపాట్ స్పేస్లను ఏర్పాటు చేసి వినియోగదారులు పంపిస్తున్న ప్రాంప్ట్లను ట్రాక్ చేయగా, అందులో 73 శాతం అశ్లీల స్వభావం కలిగినవేనని తేలింది. ఈ అశ్లీల అభ్యర్థనలలో 83 శాతం చిత్రాల్లోని వ్యక్తుల దుస్తులను తొలగించమని కోరగా, అందులో 95 శాతం మహిళలకు సంబంధించినవే ఉన్నాయి.
అంతేకాదు, ఈ అశ్లీల అభ్యర్థనలలో దాదాపు 7 శాతం పిల్లలను లక్ష్యంగా చేసుకున్నవేనని AI ఫోరెన్సిక్స్ గుర్తించింది. ఈ తరహా అభ్యర్థనలను అడ్డుకునేందుకు ప్రాంప్ట్-లెవల్ ఫిల్టరింగ్ మరియు అవుట్పుట్-లెవల్ స్కానింగ్ వంటి భద్రతా చర్యలను అమలు చేయాలని Hugging Face సంస్థకు AI ఫోరెన్సిక్స్ సూచించింది.
