- AI FTW
- Posts
- AI-forskere og insiders advarer mot AGI
AI-forskere og insiders advarer mot AGI
Vi er IKKE klare for det som kommer
Michael Birkeland
June 25, 2024
AGI innen 3-5 år?
Denne måneden er både en forsker fra OpenAI, en ansatt fra Anthropic og Leopold Aschenbrenner ute og spår AGI innen 3-5 år.
Jeg bare fortsetter å hamre på dette poenget:
Jeg kan ikke si at jeg VET hvordan AGI vil arte seg. Når det er sagt så tror jeg det er ekstremt naivt å tro at det vil “være som GPS”. (som en tidligere kollega så for seg) mao bare ett nytt verktøy for oss å bruke i våre daglige liv, eller at dette er noe som kun blir brukt for å gjøre oss mer “produktive”.
Når du har en ny form for intelligens som kan prate med en stemme du ikke klarer å skille fra en mennesklig stemme, et ansikt på skjermen du ikke klarer å skille fra et ekte menneske, som kan gjøre absolutt alt du kan gjøre på en datamaskin (bare sykt mye fortere), men som aldri blir syk eller må gå hjem fra jobben klokka fire for å hente i barnehagen. Som ikke krever ferie. Tror du en arbeidsgiver da betaler OpenAI 200.000 i året, eller en-eller-annen person 600.000 i året?
Er vi virkelig klare for dette? Har vi systemene på plass for å si takk og farvell til all form for liksom-intellektuelt arbeid?
Skal vi fortsette å tenke at vi alle sammen vil foretrekke “ekte” mennesker av sentimentale årsaker? På samme måte som vi alle er “opptatt” av bærekraft? FYI mange som er spurt om bærekraft sier at de vil betale mer for bærekraftige varer, problemet er at når de står i kassa så er det som regel lommeboka som bestemmer.
Det er NULL sjans for at vi kommer til å fortsette å betale mennesker 10x av det man kan få fra en AI for “gleden” av å betale andre mennesker. Skal jeg virkelig betale en advokat 1500 kr timen for noe en AI kan gjøre raskere og bedre for en fraksjon av kostnaden? Skal jeg betale en psykolog 800kr timen når jeg kan få all hjelpen jeg trenger fra en AI? Skal vi betale utviklere 2000kr timen for noe jeg bare kan be AI’n gjøre? Listen bare fortsetter. Jeg må kanskje betale en snekker i noen år til, men det er hevet over enhver tvil at de også til slutt står for fall. Sjåfører? Farvell. Lagerarbeidere? Farvell.
Hva gjelder våre arbeidsgivere så er de programforpliktet til å finne den løsningen som gir eierne mest mulig avkastning. Det er liksom hele poenget. Skal vi liksom tro at den kaptiallistiske modellen vil bli kassert for et slags “felles beste utopia”? I en verden som vris stadig mot høyre? Glem det.
Hvis vi ikke klarer å stable på bena en plan for dette i løpet av de neste årene så tror jeg vi vikler oss inn i et nett vi aldri klarer å vikle oss ut av.
Jeg håper så inderlig jeg tar feil og at alle ler av meg om 10 år. Jeg
