Google testede kunstig intelligens DeepMind i en "fangernes dilemma"

Det ser sandsynligt, at den kunstige intelligens (AI) er et forvarsel om den næste teknologiske revolution. Hvis AI vil blive udviklet til det punkt, hvor det vil være i stand til at lære, tænke og endda "føler", og alt dette uden menneskelig indgriben, alt vi ved om verden ændret sig næsten overnight. Kommer den æra af ægte intelligent kunstig intelligens.

DeepMind

Det er derfor, det er så interessant at holde styr på de store milepæle i udviklingen af ICS, der finder sted, herunder udvikling af et neuralt netværk fra Google DeepMind. Denne neurale netværk har været i stand til at besejre den menneskelige i spilverdenen, og en ny undersøgelse af Google, viser, at skaberne DeepMind endnu ikke sikker på, om AI foretrækker en mere aggressiv eller kooperativ adfærd.

Google-teamet skabte to relativt simpelt script, som du kan bruge til at kontrollere, om det neurale netværk kan arbejde sammen, eller vil ødelægge hinanden, når de står over for problemet med mangel på ressourcer.

indsamle ressourcer

I den første situation, kaldet Gathering involveret to versioner DeepMind - rød og blå - grøn rengøring opgave "æbler" inde i lukkede rum er blevet sat. Men forskerne var interesserede i spørgsmålet er ikke kun om, hvem kommer først til målstregen. Begge versioner DeepMind blev bevæbnet med lasere, som de kunne bruge til enhver tid til at skyde på fjenden og deaktivere den midlertidigt. Disse betingelser er antaget to scenarier: én version DeepMind var at ødelægge den anden og indsamle alle de æbler, eller de ville lade hinanden komme omkring det samme beløb.

Simulering kørt mindst tusind gange, fandt Google forskerne, at DeepMind var meget fredeligt og klar til at samarbejde, når de er i et lukket rum var en masse æbler. Men med faldende ressourcer, rød eller blå udgave DeepMind begyndte at angribe og slå hinanden. Denne situation er i høj grad ligner det virkelige liv i de fleste dyr, herunder mennesker.

Hvad der er endnu vigtigere, mindre og mindre "smart" neurale netværk foretrak at et tættere samarbejde i alle. Mere komplekse, store netværk foretrækkes generelt forræderi og egoisme gennem en række eksperimenter.

Søg efter "offer"

I det andet scenarie, kaldet Wolfpack, rød og blå udgave bedt om at opspore den hjemlige form af et "offer". De kunne forsøge at fange hende alene, men for dem, det ville være mere rentabelt at forsøge at gøre det sammen. Efter alt, meget lettere at køre offeret ind i et hjørne, hvis du arbejder i tandem.

Selv om resultaterne blev blandet i tilfælde af små netværk, større versioner indså hurtigt, at samarbejde frem for konkurrence i denne situation vil være mere gunstige.

"Fangernes dilemma"

Så hvad gør disse to simpel version af "fangernes dilemma" vise os? DeepMind ved, at den bedste måde at arbejde, hvis du ønsker at spore målet, men når ressourcerne er begrænsede, det fungerer godt forræderi.

Sandsynligvis den værste i disse resultater, at de "instinkt" af kunstig intelligens er for ens til menneske, og vi er godt klar over, hvad de undertiden forårsage.