Een Australische overheidsinstantie heeft per ongeluk persoonlijke gegevens van burgers gelekt door het uploaden van een Excel-document met gevoelige informatie naar ChatGPT. Hierdoor werden vertrouwelijke gegevens blootgesteld aan externe servers van de AI-dienst, wat de privacy van duizenden inwoners in gevaar bracht. De instantie gebruikte ChatGPT om ondersteuning te krijgen bij het verwerken van gegevens, maar was zich niet bewust van de risico's die verbonden zijn aan het delen van zulke informatie met externe platforms die gegevens mogelijk opslaan en analyseren.

De gelekte gegevens bevatten onder meer namen, adressen, identificatienummers en andere persoonlijke details die gebruikt kunnen worden voor identiteitsfraude of andere vormen van misbruik. Nadat de lekkage was ontdekt, heeft de overheidsinstantie het gebruik van ChatGPT en vergelijkbare AI-tools voor het verwerken van persoonlijke data direct stopgezet en een onderzoek ingesteld naar de omvang van de datalek. Daarnaast worden getroffen burgers geïnformeerd en worden er extra beveiligingsmaatregelen genomen om verdere incidenten te voorkomen.

De gebeurtenis roept vragen op over de omgang met nieuwe technologieën binnen overheidsorganisaties, vooral als het gaat om vertrouwelijke gegevens van burgers. Deskundigen waarschuwen dat hoewel AI-systemen zoals ChatGPT waardevolle hulpmiddelen kunnen zijn, het gebruik ervan zonder de juiste veiligheidsprotocollen en bewustwording kan leiden tot ernstige privacyproblemen. De Australische overheid onderzoekt nu hoe ze AI op een veilige manier kan integreren, om tegelijkertijd innovatie te stimuleren en de privacy van haar burgers te waarborgen.