OpenAI heeft een nieuwe lockdownmodus geïntroduceerd voor ChatGPT die de webfunctionaliteiten beperkt om promptinjectionaanvallen tegen te gaan. Deze aanvallen maken misbruik van de mogelijkheid om via invoer de werking van het taalmodel te manipuleren, wat kan leiden tot ongewenste acties of het omzeilen van beveiligingen.

De lockdownmodus schakelt bepaalde webgebaseerde functies uit, waardoor de kans op misbruik aanzienlijk wordt verminderd. Door deze beperking wordt het voor kwaadwillenden lastiger om via prompts schadelijke code of ongeautoriseerde opdrachten in te voeren. Deze maatregel draagt bij aan de bescherming van gebruikers en de integriteit van het systeem.