Ted Chiang er ikke bare en kjent science fiction-forfatter, kjent for verk som «The Story of Your Life» (som senere ble filmatisert under tittelen «Arrival») og antologien «Exhalation»; han er også en av de mest innsiktsfulle visjonærene når det gjelder utviklingen av kunstig intelligens og dens anvendelse i dagens samfunn. Som en visjonær forfatter hadde vi æren og gleden av å snakke inngående med ham under Celsius 232 i et intervju, og du kan lese den fullstendige versjonen her.
Men av alle temaene vi diskuterte med Chiang, er kanskje det viktigste og mest avslørende spørsmålet om veien vi har valgt i utviklingen av kunstig intelligens i dag, fortsatt er den samme som den han skisserte for mange år siden i sitt verk. Svaret hans var like avslørende som det var knusende:
«Gjennom store deler av science fiction-historien har ideen om tenkende maskiner eller kunstig intelligens vært svært vanlig, og folk har ofte vendt tilbake til den. Jeg tror det alltid har vært mange interessante filosofiske spørsmål knyttet til dette temaet. Men det vi har sett de siste fem årene eller så, med fremveksten av generativ AI, har ingen likhet med det som ble utforsket i science fiction. Spørsmålene som interesserte science fiction, gjelder egentlig ikke for situasjonen vi står overfor nå.
«La meg foreslå en måte å se på det på.
«Tidligere spurte science fiction: ‘Bør du la en maskin ta beslutningene dine?’ Jeg mener dette er et interessant filosofisk spørsmål, fordi ideen om en maskin som tar beslutninger bedre enn mennesker (eller ganske enkelt på en annen måte enn mennesker) reiser gyldige argumenter både for og imot å stole på den. I dag er spørsmålet imidlertid mer: ‘Bør man la Amazon ta avgjørelsene sine?’
«Jeg synes ikke det er et interessant filosofisk spørsmål. Jeg mener svaret helt klart er ‘nei, det bør man ikke’. Jeg tror ikke det finnes et godt filosofisk argument for å la Amazon ta avgjørelsene sine.
«Det jeg mener er at generativ AI (programvaren som for tiden beskrives som AI) ikke er en tenkende maskin. I bunn og grunn er den et verktøy for bedrifters makt. Jeg tror ikke det finnes noe godt filosofisk argument for å bare overgi seg til bedriftens makt. Det ligger i bedriftenes interesse å reise disse spørsmålene om tenkende maskiner og antyde at de kanskje tenker bedre enn deg.
«Men det er ikke det vi har akkurat nå. Det er ikke situasjonen vi står overfor. Hver gang de snakker om disse ideene, er det ikke annet enn et røykteppe, for det de er interessert i, er å øke sin makt over folk.
«Så jeg mener det er svært viktig å være klar over den situasjonen vi faktisk befinner oss i. Situasjonen vi står overfor i dag, er ikke den som science fiction tidligere var opptatt av. Situasjonen vi står overfor handler om å motstå bedrifters makt.»