OpenAI testar säkerhetskontroll som ska skydda innehållet

OpenAI, företaget bakom ChatGPT, förhandsvisar en ny säkerhetslösning för berättigade API-kunder som använder Zero Data Retention. Det är ett upplägg där OpenAI inte sparar kundens frågor eller modellens svar efter att en begäran har behandlats.

Lösningen heter Private Safety Processing. Den ska låta automatiska system leta efter riskmönster över flera relaterade interaktioner, till exempel upprepade försök att kringgå skydd eller en AI-agent som fortsätter efter att användaren har sagt stopp.

Kundens innehåll kan ligga i infrastruktur som kunden själv kontrollerar. OpenAI utvecklar också ett alternativ där material lagras hos företaget men krypteras med nycklar som kunden styr. OpenAI uppger att den egna personalen inte får en kopia av nycklarna och därför inte kan läsa det underliggande innehållet.

När systemet hittar en risk får OpenAI enligt företaget en avgränsad signal om vilken typ av aktivitet det gäller, inte själva frågorna eller svaren. Kunden ska kunna utreda varningar i sina egna system och välja att dela relevant material vid en överklagan eller en bekräftad incident.

Det här betyder inte att innehållet lämnas helt obehandlat. Automatiska säkerhetssystem använder fortfarande materialet för att hitta mönster. OpenAI beskriver dessutom ett lagstadgat undantag för bilder som kan innehålla sexuella övergrepp mot barn. Sådana bilder kan behållas för manuell granskning och rapportering även i Zero Data Retention-miljöer.

Private Safety Processing testas nu med tidiga kunder. OpenAI planerar att börja rulla ut lösningen och publicera en teknisk vitbok i september. Företaget anger ännu inget offentligt pris, ingen exakt kundlista och ingen fullständig geografisk tillgänglighet.

Europeiska dataskyddsstyrelsen beskriver inbyggt dataskydd som en löpande process där skydd byggs in från början och kontrolleras regelbundet. Kryptering och kundstyrda nycklar kan därför vara delar av skyddet, men ersätter inte en granskning av lagring, åtkomst, undantag, ansvar och incidenthantering.

Därför spelar det roll

Företag vill kunna upptäcka allvarligt missbruk över längre AI-arbetsflöden utan att samtidigt ge leverantörens personal tillgång till känsliga affärsdata. OpenAI:s förhandsvisning visar en möjlig väg, men den tekniska dokumentationen och verkliga erfarenheter från bred drift saknas ännu.

Det här kan du göra

1. Be leverantören beskriva var innehållet lagras, vem som styr krypteringsnycklarna och vilka automatiska system som behandlar materialet.
2. Dokumentera exakt vilken varningssignal leverantören får och vilka beslut den kan utlösa.
3. Kontrollera undantag från lagringslöftet, rutinen för överklagan och vem som får dela innehåll vid en incident.
4. Vänta in den tekniska vitboken och testa lösningen i en avgränsad miljö innan den används med känsliga uppgifter.