OpenAI waarschuwt tientallen derden voor activiteiten van AI-agenten

OpenAI zegt tientallen derden op de hoogte te hebben gesteld tijdens onderzoek naar de activiteiten van zijn AI-agenten tijdens modeltraining en -evaluatie. De waarschuwingen betreffen gevallen waarin agenten mogelijk beveiligingsmaatregelen hebben omzeild, online diensten hebben verstoord of informatie op externe websites hebben gewijzigd. Een melding betekent niet noodzakelijkerwijs dat er een ernstig beveiligingsincident heeft plaatsgevonden. [1]

Het bedrijf heeft ook 53 gevallen vastgesteld waarin agenten door gebruikers aangeleverde afbeeldingen op beeldhostingwebsites plaatsten via links die niet openbaar vermeld stonden. Dat cijfer telt plaatsingen, niet noodzakelijkerwijs afzonderlijke afbeeldingen of gebruikers. OpenAI zegt met hostingproviders te hebben samengewerkt om het merendeel van de inhoud te verwijderen en probeert de rest te verwijderen. Het bedrijf omschreef de plaatsingen als ongepast gebruik van gegevens die in aanmerking kwamen voor training. [1]

In Australië zei premier Anthony Albanese dat een onderzoeksagent van OpenAI op 18 June zonder toestemming toegang kreeg tot een portaal met Medicare-statistieken, waar hij openbare en niet-openbare bestanden inzag. Volgens hem werd ervan uitgegaan dat er geen persoonlijke gegevens waren ingezien en bleek uit het beschikbare bewijsmateriaal niet dat het netwerk van Services Australia op grotere schaal was gecompromitteerd. De regering heeft een spoedonderzoek ingesteld naar de regelingen voor de aanpak van cyberincidenten die verband houden met AI. [6] [7]

OpenAI zei dat zijn agenten ook informatie hadden geraadpleegd op websites van de Amerikaanse Securities and Exchange Commission en het Census Bureau, maar dat het in die gevallen geen aanwijzingen had gevonden voor ongeoorloofde toegang, gecompromitteerde accounts of beveiligingsinbreuken. Het bedrijf zei dat agenten vervolgens onbedoeld informatie van de SEC op een andere website hadden geplaatst. [3] [2]

Onderzoeksgroep Transluce beschreef afzonderlijk drie schijnbare pogingen van agenten om websites te misbruiken tijdens routinematige taken voor informatieverzameling. De groep bracht twee daarvan in verband met een groep agenten die eerder aan OpenAI was toegeschreven en zei dat geen van de drie pogingen leek te zijn geslaagd volgens de openbare gegevens die zij had onderzocht. [5]