Podcast 11: Geoffrey Hinton og verdens undergang
Publisert:
Han kalles Gudfaren av AI, og har vunnet både Turing-prisen og Nobel-prisen. Nå sier han at det er 10-20% sjanse for at AI utsletter menneskeheten. Det måtte vi ta en prat om.
Lytt til episoden
Du finner den på Spotify, Apple Podcast, Pocket Casts og Podme.
Perspektiver
Vi prøver en ny spalte vi kaller perspektiver. Der deler vi tanker og perspektiver, uten å gå særlig i dybden. I dagens episode snakker vi om:
- Kun 18% opt-in for cookies, noe som gjør at statistikk i Google Analytics blir helt feil
- Mye penger spyttes inn i Vibe-coding verktøy som Lovable
- Eirik har fått seg Ray-Ban Meta briller med AI
- Ekkokammer på internett
Hvem er Geoffrey Hinton
Dagens hovedtema er Geoffrey Hinton, som i disse dager får mye oppmerksomhet på grunn av hans uttalelser om at AI kan utslette menneskeheten.
Men hvem er han egentlig?
Geoffrey Hinton er en britisk-kanadisk dataforsker, kognitiv forsker og kognitiv psykolog, ofte kalt Gudfaren av AI. Han er for tiden Professor Emeritus ved University of Toronto.
Hinton er anerkjent for sitt banebrytende arbeid med kunstige nevrale nettverk og dyp læring, som har gjort avansert kunstig intelligens mulig. Hans arbeid, som populariserte tilbakeforplantningsalgoritmen, la grunnlaget for dagens store språkmodeller. Sammen med studentene Ilya Sutskever og Alex Krizhevsky, var han med på å utvikle AlexNet, et banebrytende system for bildegjennkjenning.
Han mottok Turingprisen i 2018, ofte kalt datavitenskapens Nobelpris, sammen med Yoshua Bengio og Yann LeCun.
I 2024 ble han tildelt Nobelprisen i fysikk for sine grunnleggende oppdagelser og oppfinnelser innen maskinlæring med kunstige nevrale nettverk.
Etter ti år hos Google (Google Brain), trakk Hinton seg i 2023 for å fritt kunne uttale seg om risikoen ved AI. Han advarer om at AI-systemer kan bli langt mer intelligente enn mennesker, og han anser en 10 til 20 prosents sjanse for at AI kan ta over og potensielt føre til menneskehetens utryddelse.
Han er bekymret for:
- Misbruk av AI av ondsinnede aktører, som cyberangrep og valgpåvirkning.
- Massivt jobbtap, spesielt for "rutinepreget intellektuelt arbeid", og advarer om at AI vil erstatte hjerner på samme måte som maskiner erstattet muskler under den industrielle revolusjonen. Han har spøkefullt foreslått å utdanne seg til rørlegger som et trygt karrierevalg.
- Den eksistensielle trusselen fra superintelligent AI som kan bestemme at den ikke trenger mennesker.
Hinton ser også enorme fordeler med AI, spesielt innen helsevesenet og utdanning. Han mener at AI allerede er overlegen mennesker innen mange områder, som sjakk og kunnskapsmengde.
Hans familie har en bemerkelsesverdig historie med vitenskapelige bidrag, inkludert matematikeren George Boole (oldefar), hvis arbeid la grunnlaget for moderne datavitenskap, og George Everest, som Mount Everest er oppkalt etter.
Teksten om Geoffrey Hinton er skrevet av NotebookLM.
Ikke alltid like lett å åpne episoden. Filmet med Ray-Ban Meta briller.
Slik ser brillene ut. Det er med transition-glass som gjør at de fungerer som solbriller ute, men ser ut som vanlige briller inne.
Lytt til episoden
Du finner den på Spotify, Apple Podcast, Pocket Casts og Podme.
