Elon Musks AI-firma skabte en falsk nyhedsgenerator, som den er for bange for at offentliggøre

Tech

Elon Musks AI-firma skabte en falsk nyhedsgenerator, som den er for bange for at offentliggøre

Det er tid til endnu et afsnit i vores igangværende blik på fremtiden, som vil blive bragt til dig takket være de stadig mere bekymrende muligheder for kunstig intelligens. Alle er opmærksomme på problemet med falske nyheder online, og nu har OpenAI nonprofit, støttet af Elon Musk, udviklet et kunstig intelligens-system, der kan skabe så overbevisende falske nyhedsindhold, at gruppen er for skæv til at frigive det offentligt, med henvisning til frygt for misbrug. De lader forskerne se en lille del af det, de har gjort, så de skjuler det ikke fuldstændigt - men alligevel er gruppens ængstelse her bestemt sigende.

'Vores model, kaldet GPT-2, blev trænet til blot at forudsige det næste ord i 40 GB internettekst,' lyder det. en ny OpenAI-blog om indsatsen. 'På grund af vores bekymringer om ondsindede anvendelser af teknologien, frigiver vi ikke den trænede model. Som et eksperiment i ansvarlig afsløring frigiver vi i stedet et meget mindre model for forskere at eksperimentere med, samt en teknisk papir .'

Grundlæggende blev GPT-2-systemet 'trænet' ved at blive fodret med 8 millioner websider, indtil det nåede til det punkt, hvor systemet kunne se på et sæt tekst, det har givet, og forudsige de ord, der kunne komme næste gang. Ifølge OpenAI-bloggen er modellen 'kamæleon-lignende - den tilpasser sig stilen og indholdet af den konditionerende tekst. Dette giver brugeren mulighed for at generere realistiske og sammenhængende fortsættelser om et emne efter eget valg.' Selv hvis du prøvede at producere f.eks. en falsk nyhedshistorie.

Her er et eksempel: AI-systemet fik denne menneskeskabte tekstprompt:

'I et chokerende fund opdagede videnskabsmanden en flok enhjørninger, der bor i en fjerntliggende, tidligere uudforsket dal i Andesbjergene. Endnu mere overraskende for forskerne var det faktum, at enhjørningerne talte perfekt engelsk.'

Fra det fortsatte AI-systemet - efter 10 forsøg - 'historien', begyndende med denne AI-genererede tekst:

'Forskeren opkaldte befolkningen, efter deres karakteristiske horn, Ovids enhjørning. Disse fire-hornede, sølv-hvide enhjørninger var tidligere ukendte for videnskaben. Nu, efter næsten to århundreder, er mysteriet om, hvad der udløste dette mærkelige fænomen, endelig løst.'(Du kan tjekke OpenAI-bloggen på linket ovenfor for at læse resten af ​​enhjørningshistorien, som AI-systemet udfyldte.)

Forestil dig, hvad et sådant system kunne gøre, f.eks. sætte løs på en historie om præsidentvalget. Implikationerne af dette er grunden til, at OpenAI siger, at det kun udgiver en meget lille del af GPT-2-samplingkoden offentligt. Det frigiver ikke noget af datasættet, træningskoden eller 'GPT-2 modelvægte.' Igen, fra OpenAI-bloggen, der annoncerer dette: 'Vi er klar over, at nogle forskere har den tekniske kapacitet til at reproducere og åbne vores resultater. Vi mener, at vores udgivelsesstrategi begrænser det indledende sæt af organisationer, der kan vælge at gøre dette, og giver AI-samfundet mere tid til at have en diskussion om implikationerne af sådanne systemer.

'Vi mener også, at regeringer bør overveje at udvide eller påbegynde initiativer til mere systematisk at overvåge den samfundsmæssige påvirkning og spredning af AI-teknologier og for at måle udviklingen i sådanne systemers muligheder,' konkluderer OpenAI-blogindlægget.