జిపిటి-రెడ్ ను కలవండి: ఓపెన్‌ఏఐ అభివృద్ధి చేసిన ఎల్ఎల్ఎం సూపర్-హ్యాకర్, దాని మోడళ్లను మరింత సురక్షితంగా చేయడానికి రూపొందించబడింది.

OpenAI తన LLM మోడల్స్ భద్రతను పెంచడానికి 'GPT-Red' అనే సూపర్-హ్యాకర్ AIని రూపొందించింది. ఇది మానవుల రెడ్-టీమింగ్ ప్రక్రియను స్వయంచాలకం చేస్తుంది.

GPT-Redని ఇతర AI మోడల్స్తో సెల్ఫ్-ప్లే లూప్లో శిక్షణ ఇవ్వడం జరిగింది. ఈ ప్రక్రియ ద్వారా దుర్బలతలను గుర్తించి, వాటిని దాడి చేసే సామర్థ్యాన్ని పెంపొందించుకుంది.

ఈ మోడల్ 'ఫేక్ చైన్ ఆఫ్ థాట్' అనే కొత్త ప్రంప్ట్ ఇంజెక్షన్ దాడిని కనుగొంది. వెండింగ్ మెషిన్ ఏజెంట్ ధరలను మార్చడం, ఆర్డర్లను రద్దు చేయడం వంటి చర్యలను కూడా ఇది నిర్వహించింది.

OpenAI ప్రకటన ప్రకారం, GPT-5.6 కొత్త వెర్షన్ ఇప్పటివరకు అత్యంత సురక్షితమైన LLMగా మారింది. GPT-Redతో శిక్షణ తీసుకున్నందుకు ఇది కారణం.