Program DARPA Theory of Mind poskuša predvideti, nadzorovati in spremeniti vedenje.
Član nove ekipe Agencije za napredne raziskovalne projekte ameriškega ministrstva za obrambo (DARPA), Eric Davis, je predstavil nov program, imenovan "Theory of Mind." in celo spremeniti človeško vedenje.
Napoved programa, ki je zdaj postala javna v obliki "posebnega obvestila", je namenjena izboljšanju zmožnosti odločanja znotraj varnostnega aparata ZDA, pri čemer se osredotoča na "nasprotnike" in jih poskuša odvrniti ali "motivirati" v določenih primerih. načine. Vendar pa to odpira resna vprašanja glede zasebnosti, zbiranja podatkov in etičnih posledic nadzora vedenja.
Zagotovo je, da ta program zahteva zbiranje ogromnih količin osebnih podatkov. Toda večje vprašanje je: kaj točno pomeni "nasprotnik" v očeh vojaškega aparata? Glosar vojaških in sorodnih izrazov Ministrstva za obrambo ZDA iz leta 2017 opisuje »nasprotnika« kot »stran, ki je prepoznana kot potencialno sovražna do prijateljske strani«, vendar ne določa natančno, kaj izraz »stranka« zajema.
Program Theory of Mind predstavlja novo ponovitev že obstoječih projektov DARPA, kot je kontroverzni program Total Information Awareness (TIA) iz leta 2002, ki so ga skupine civilne družbe kritizirale, ker je "najbližje resničnemu Big Brotherju v ZDA."
Eric Davis, znanstvenik za umetno inteligenco z izkušnjami pri Galoisu, ki sodeluje z DARPA, NASA in ameriško obveščno skupnostjo, premika meje možnega v strojnem učenju. Toda kot pri vsakem podobnem programu obstaja resna skrb glede možnosti zlorabe in zasebnosti posameznikov po vsem svetu.
Ko se razvija program Theory of Mind, je pomembno zastaviti vprašanje: Koliko je preveč, ko gre za napovedovanje in nadzor človeškega vedenja? In kdo zagotavlja, da tako močni algoritmi ostanejo pod nadzorom?
Program DARPA Theory of Mind poskuša predvideti, nadzorovati in spremeniti vedenje.
Natisni