00:41:01 · Mia Sandnes Nilsen, Johannes Brodwall
[00:41:01] S2: Så Ja, så du så du du vil kanskje tegne litt sånn paralleller til håndteringen av klimakrisen da når det kommer til AI? Ja. [00:41:09] S0: At det beste vi kan håpe på at det ikke er så ille. Men det er jo også når vi da har funnet opp en teknologi, er ikke det deprimerende? For den tenkte jo være sånn liksom at det kommer ny teknologi og så er sånn, oi dette var spennende. Og så er det sånn, det kommer ny teknologi og så er det oi hvordan skal dette ende opp? Så, så jeg har blitt teknologi pessimist da. [00:41:28] S2: Ja, nettopp. [00:41:29] S0: Det var en tid hvor jeg liksom tenkte oi, nå kommer det noe spennende ny teknologi, dette blir bra. [00:41:33] S2: Fordi at nå er det jo sånn at året nærmer seg slutten som vi var inne på. Er det sånn at du tror at det blir et AI-fritt 20 27 og 28 og 29 også eller? [00:41:46] S0: Jeg tror nok det blir AI-fritt 20 27. Ja. Og så vet jeg ikke, så håper jeg at vi får et 20 28 da. Ja. Men jeg er litt jeg er litt der [00:41:54] S2: Det er såpass pessimistisk. [00:41:56] S0: Ja, altså jeg er ikke, nei altså jeg tror jeg tror min min sannsynlighetsberegning er at det er mer enn 90 prosent sjanse for at vi får 20 28. Ja. Under 10 prosent sjanse for at verden går under før 20 28. [00:42:11] S2: Ja, jeg håper jo det. Det hørtes ut som en buffer måling det også.
00:42:11 · Mia Sandnes Nilsen, Johannes Brodwall
[00:42:11] S2: Ja, jeg håper jo det. Det hørtes ut som en buffer måling det også. [00:42:15] S0: Disse folka her, de som lager teknologi, det er noen drainger. Selskapet som er invest I vinden er på mange måter er Anthropic, hvor da Dario Amodei er leder av det. Han er jo en del av den gruppe, den tankebevegelsen som kommer ut fra Effective Altruism som kalles the Rasjonalists og the Rasjonalists I den sammenhengen, det er da en om at ganske snart kommer maskinene til å bli så kraftig at de I praktisk tall blir guddommelige. Dette er det som er tankegodset til mannen som styrer det selskapet som kanskje legger til for front av teknologien vår. Det er ikke jeg som tror på dette her. Ja. Og dette snakker de åpent om, og det er også grunnen til at det ble en del sånn sto hei når han koxen var det ikke noe annet het kom, så det var en avhopper fra en proprikk som snakket om hvor farlig den teknologien var. [00:43:21] S2: Ja, stemmer. [00:43:22] S0: Og da da en sak som de snakker om da er liksom I lunsjen så sitter de og sier ifra sånn, ja hva tror du er sannsynligheten for at den teknologien vi lager kommer til å skjelett som menneskeheten da? Sier, nei jeg tror den er 15 prosent. Å ja, nei jeg tror den bare er 10 prosent. Ja. Og det er da the provability of duam eller Pedoom. [00:43:41] S2: Okay, litt.
00:43:41 · Mia Sandnes Nilsen, Johannes Brodwall
[00:43:41] S2: Okay, litt. [00:43:42] S0: Og og det så det er jo da innenfor innenfor dette miljøet som lager denne teknologien så er da et vanlig samtale er om du tror det er 10 prosent eller 20 prosent sjanse for at den teknologien du lager er I ferd med å utslutte menneskeheten. Den måten de tror det kommer til å gjøre å skje på er jo at maskinen kommer til å våkne opp, altså den kommer til å ta over kontrollen og så er det som terminator som det Ja, ja. Og jeg tror ikke det er det mest sannsynlig. Sånn er det jo. Det at de faktisk tror på det, det er ikke, det betyr ikke at det er da basert på en faktisk forståelse av hva teknologien, altså hvordan teknologien fungerer og hvordan samfunnet fungerer og hvordan vi som samfunn integrerer teknologi I samfunn, for det er teknologer veldig dårlig på. Men det som da ligger bak den måten som Anthropic beskriver sin visjon på. Det er det de bruker analogien til The Manhattan Project I utviklingen av atom atomvåpen. Og så sier de at okay, denne utviklingen som vi tror er veldig skadelig kommer til å skje om vi vil det eller ikke. Da er det bedre at vi lager teknologien enn at noen 2º lager den. [00:44:58] S2: Men du er jo åpenbart litt pessimistisk da når det kommer til dette.
00:45:02 · Johannes Brodwall
[00:45:02] S0: Ja, altså du det er jo litt som jeg sier at jeg jeg synes altså hvis vi legger til side da den terminator scenario, og så ser vi hva er det som er av mulige utganger her. Ja. Så kan du da si at okay en 1 ganske sannsynlig utgang er at finansboblen kan sprekke, må sprekke, bør sprekke. Altså cirka en tredjedel av verdens aksjeverdi I dag er I det såkalte Magnificent Seven. Google, Amazon, Microsoft. Dette er selskaper som har tatt enorme investeringer I størrelsesorden 1000 milliarder dollar type investeringer, og det er mye hjelpsbaserte investeringer, og det er mye av pengene går I omløp at Nvidia donner penger til Microsoft for at de skal kjøre chips av dem også leie Microsoft. Så så investerer Microsoft penger I OpenAI for at de skal leie serverkapasitet av dem. Du har finans kollaps muligheten der. Et annet scenario da er altså hvis, hvis med de investeringene som er gjort her, så er det nesten en forutsetning at en stor andel av de pengene vi I dag bruker på å gi folk lønninger, det kommer til å være profitt inn I disse selskapene. Da vil de klare å unngå den finansboblen. Det er jo et scenario som, som de fleste av oss ser noen nedsider med fordi at det betyr jo da at vi må bruke pengene som vi pleier å bruke til å betale journalister og programmere. De skal istedenfor sende til de 8 rikeste mennene I USA. Eller så så landet et eller annet sted midt mellom der. Men, men ja, jeg synes ikke det, det mangler noen visjoner om hvordan denne teknologien faktisk skal bli til det bedre for menneskeheten.
00:46:51 · Mia Sandnes Nilsen, Johannes Brodwall
[00:46:51] S2: Du har jo familie og barn og sånn, og det å liksom snakke om at du tror det er 90 prosent sjanse da for at vi får et 20 28. [00:47:00] S0: Nei, jeg tror det er, jeg tror det er godt over 90 prosent sjanse. [00:47:02] S2: Du tror det er godt over 90. Men du, men du tegner en litt sånn dyster fremtidstro da. Har du troen på at du kommer til å se noen endring som gjør at du får et annet, et annet inntrykk snart? [00:47:16] S0: Ja, altså, for jeg tror at det er mye irrasjonalitet både I forventningene rundt det økonomiske, altså den boblen som er der og forventningene om hvor effektivt det faktisk fungerer I arbeidshverdagen. Som sagt, det gir deg en bedre hammer, men det gir deg ikke bedre snekkere, gir deg kanskje dårligere snekkere. Mhmm. Og hvis du da har et verktøy som gir deg dårligere, altså hvis du har en hammer som gjør snekkerene dårligere, så får du faktisk dårligere bygninger. Det jeg da tror at det er under eller at det er over 10 prosent sjanse for, det er at før vi går inn I 20 28 så vil vi sett en korreksjon I da folks oppfatningen av den økonomiske eller arbeidsmessige verdien av kunstig intelligens. Ja. Tror at det er en betydelig sannsynlighet for at når vi kommer inn I 20 28 så er det der ideen om at alle må jo bruke kunstig intelligens nå, at den kanskje ikke virker så kurant lenger. [00:48:11] S2: Ja, og jeg tror kanskje at du vet svaret ditt på neste spørsmål da. Men vil du anbefale flere å bli AI-veganere?
00:48:21 · Johannes Brodwall
[00:48:21] S0: Hvis du går på bekostning av jobben din, vil jeg ikke anbefale det. Nei. Altså, det er de færreste som har luksusen til å bite hånden som mater deg. Men det som jeg vil anbefale alle å gjøre det er å bruke tid med sine egne tanker og bruke tid med problemene uten hjelp fra maskinen og kjenne på friksjonen og så kjenne på hvor er det hvor er den kan hjelpe deg? Fordi det er det er jo steder hvor hvor jeg ikke følte meg hjelp med, hvor 2º kunne føle den hjelpe deg hvis du bruker den riktig. Mhmm. Og så er det steder hvor du bruker den på en måte som er lat og teit. Sånn som jeg snakket om liksom med den der når jeg da skulle holde et foredrag og så kunne jeg be AI om å gi meg skarp tilbakemelding, så kan det føles ut som jeg da faktisk får skarp tilbakemelding, at jeg faktisk får en friksjon, men at den ofte er mer kunstig enn du tror da. Ja. Så hvis du kan velge menneskelig, en menneskelig friksjon, en menneskelig, en, 1 sosial risiko fremfor en, 1 kunstig friksjon, så er det kanskje noe å velge der. Ja. Så så det å, og så jeg vil anbefale alle å se på hva det gjør med hjernen din hvis du føler deg stressa eller overarbeidet. Hvis du føler at du har konsentrer, at det er vanskelig å konsentrere seg, at det er vanskelig å lese en bok enn det pleier å være, at det er vanskelig å sitte stille med tankene sine enn det det var, så tenker jeg at det bør man gjøre. Snakk med en venn, få ideene dine utfordret av et person, ikke menneske, og så få en ny venn, og så gir hverandre en klem og så gå hjem glad.