Facebook-ingeniører går i panik, trækker stikket til AI, efter at bots har udviklet deres eget sprog

Videnskab

Facebook-ingeniører går i panik, trækker stikket til AI, efter at bots har udviklet deres eget sprog

Efterhånden som verdens mest kraftfulde computersystemer begynder at omfavne kunstig intelligens for alvor ved at bruge smarte algoritmer til at øge effektiviteten og hastigheden, fortsætter den potentielle skade, som en 'slyngel' AI kan forårsage, med at vokse. Mange i teknologisamfundet har teoretiseret, hvordan et kunstigt sind kunne vende sig mod dets skabere, og Facebook har lige fået en interessant lektion i, hvordan et sådant scenarie kan udvikle sig. Facebook ingeniører blev tvunget at trække stikket til et af virksomhedens AI-systemer, efter dets bots begyndte at kommunikere med hinanden i et helt nyt sprog, som mennesker simpelthen ikke kunne tyde.

AI-botterne, som oprindeligt var programmeret til at bruge almindeligt engelsk til at kommunikere med hinanden, viste sig at tale, hvad der så ud til at være volapyk. Sætninger som 'Jeg kan II alt andet' og 'Kugler har nul til mig til mig til mig til mig til mig til mig til mig til,' blev sendt frem og tilbage af AI, og mens mennesker har absolut ingen ved, hvad det betyder, forstod botterne hinanden fuldt ud. Uden at være i stand til at forstå, hvordan eller hvorfor botsene kommunikerede, havde Facebook intet andet valg end at lukke systemet ned.

Den meget åbenlyse fare her er, at computere, der kan kommunikere med hinanden ved hjælp af deres eget sprog, ikke kun er umulige at forstå, men meget sværere at kontrollere. I dette tilfælde var botterne ikke bundet af almindeligt sprog og udviklede tilsyneladende en mere effektiv måde at kommunikere med hinanden på og selv bestemme, hvad der var bedst. Det er både imponerende og skræmmende.

Facebooks Mark Zuckerberg er en stor fortaler for kunstig intelligens og har endda stødt sammen med andre teknologiske ledere som Elon Musk over hans omfavnelse af kunstig intelligens og tilsyneladende mangel på bekymring over de teoretiske farer, intelligente computere kan udgøre for menneskeheden. Efter begivenhederne i denne weekend vil han måske ændre sin melodi lidt.