Rekk opp hånda er en møteplass der skolefolk kommer til orde. I hver episode møter du en gjest med kompetanse på et aktuelt tema, og får et innblikk i norsk skole fra alle vinkler. Her på bloggen finner du relevant skolestoff.
Sam Altman har nettopp publisert et personlig blogginnlegg der han skriver at vi nå er "sikre på at vi vet hvordan vi kan bygge AGI slik vi tradisjonelt har forstått det."
Av Martin Johannessen
Sam Altman startet 2025 med en kryptisk melding på X som antydet at menneskeheten kanskje er nær eller allerede har passert den teknologiske singulariteten – samtidig som en annen forsker også hintet om muligheten til å skape superintelligens: “near the singularity; unclear which side.”
Sam Altman hevder at vi nå er på terskelen til en epoke preget av kunstig generell intelligens (AGI) og superintelligens.
- Vi tror at vi i 2025 kan se de første AI-agentene 'bli med i arbeidsstyrken' og vesentlig endre produktiviteten til selskaper, skriverhan i blogginnlegget. Han skriver ikke hvordan dette vil skje, men at det vil skje i nær fremtid.
Under finner du noen av hovedpunktene til OpenAI-sjefen (min oversettelse).
Superintelligens og ordet "massivt" "Vi begynner nå å sikte forbi det vi har oppnådd, mot superintelligens i ordets sanne forstand. Vi elsker våre nåværende produkter, men vi er her for en strålende fremtid. Med superintelligens kan vi gjøre alt annet. Superintelligente verktøy kan massivt akselerere vitenskapelig oppdagelse og innovasjon langt utover det vi er i stand til å gjøre på egen hånd, og i sin tur massivt øke overflod og velstand."
Spørsmålet er ikke om det kan øke "overflod og velstand", men heller hvem som får fordelene. Det er en samtale vi trenger å ha nå. Uansett er dette en utfordring til å reflektere over hvor vi står som samfunn – og hvor vi er på vei.
Vi er mye lenger fremme enn du tror "ChatGPTs andre bursdag var for litt over en måned siden, og nå har vi gått over til det neste paradigmet av modeller som kan utføre kompleks resonnering."
Dette er det største spranget fremover som vi ikke vet så mye om. Det neste paradigmet for modeller er et kolossalt fremskritt og vil få store implikasjoner for teknologien og for effektiviteten og kostnadene ved å lage den.
Dette er ulikt noe vi har sett før "Lanseringen av ChatGPT satte i gang en vekstkurve ulik noe vi noen gang har sett – i vårt selskap, vår bransje og verden generelt."
På to år gikk et selskap fra å være en liten forskningsorganisasjon til å lage et produkt som er så revolusjonerende at det har blitt synonymt med KI (ChatGPT).
Altman gir oss en kraftig påminnelse om hvor raskt vi beveger oss i utviklingen av kunstig intelligens. Det er opp til oss som samfunn å stille de viktige spørsmålene nå: Hvordan sikrer vi at fordelene med denne utviklingen kommer alle til gode, og ikke bare noen få?
xAI er den nyeste satsingen til Elon Musk. Den har som mål å bygge en god AGI (kunstig generell intelligens), en intelligent datastruktur som kan forstå og utføre enhver kognitiv oppgave som et menneske kan. xAI skal avdekke universets sanne natur.
Elon Musk lanserte xAI i midten av juli på et Twitter Space-Event. Musk og teamet var tilgjengelig for spørsmål. Og det er et imponerende team bestående av folk fra DeepMind, OpenAI, Google og Tesla.
Han har blant annet fått med seg Igor Babuschkin, som tidligere var ansatt ved Googles DeepMind, Tony Wu som har bakgrunn fra Google, Christian Szegedy, som også har Google-bakgrunn, og Greg Yang, som tidligere var ansatt i Microsoft.
Pånettsiden opplyser xAI at (det hårete) målet med xAI er å forstå universets sanne natur. Musk og teamet skal slippe mer informasjon om denne første utgivelsen av xAI om et par uker.
I mars i år signerte mer enn 1000 tek-ledere, forskere og akademikere etåpent brev der de oppfordret til å trykke på pauseknappen av utviklingen av de mest kraftfulle AI-systemene: “umiddelbart og i minst seks måneder å pause opplæringen av AI-systemer kraftigere enn GPT.”
Elon Musk var én av dem som signerte brevet. Samtidig ble xAI opprettet og utviklingen av AI-systemer fortsatte for fullt. Elon Musk sier nå at xAI bygges i konkurranse til OpenAI. Så mye for den underskriften.
Å forstå universets sanne natur Elon Musk sa at målet med xAI er å bygge en god AGI (kunstig generell intelligens) med formålet om å forstå universet. Musk sa at den sikreste måten er å bygge en AGI som er 'maksimalt nysgjerrig' og 'sannhetssøkende', og å prøve å minimere feilen mellom hva du tror er sant og hva som faktisk er sant.
AGI er en hypotetisk type kunstig intelligens som vil kunne forstå og utføre enhver kognitiv oppgave som et menneske kan utføre. AGI ville være i stand til å lære, forstå og resonnere, og være i stand til å løse problemer og ta beslutninger på samme måte som et menneske.
- Tenk deg en robotstøvsuger, som ikke lenger er dømt til å støvsuge gulvene, men utviklet til allsidige roboter som gjerne brygger morgenkaffen eller bretter tøy – uten noen gang å bli programmert til å gjøre disse tingene, skriver teknologiforfatter, historiker og filosof EvgenyMorozov i NewYork Times.
Morozov har kritisert den teknologiske optimismen som han mener har blitt en dominerende kraft i verden. Han mener at teknologi ofte brukes til å skape nye problemer, og at den ikke er i stand til å løse de grunnleggende problemene i samfunnet. Morozov har også kritisert den statlige bruken av teknologi, og han mener at teknologi kan brukes til å overvåke og kontrollere befolkningen.
Morozov er en kontroversiell figur, og hans ideer har blitt kritisert av mange teknologientusiaster. Han har imidlertid også blitt rost for sin klarsynte kritikk av teknologiens mørke sider.
Er AGI fremtidens kunstige intelligens? AGI er fortsatt en hypotetisk teknologi, og det er ikke klart om den noen gang vil bli oppnådd. Det er imidlertid en rekke forskere som jobber med å utvikle AGI-teknologi, og det er mulig at AGI kan bli en realitet i fremtiden. Musk og xAI har dette som uttalt mål.
AGI vil sannsynligvis ha en stor innvirkning på samfunnet. AGI-systemer kan brukes til å automatisere en rekke oppgaver som for nå utføres av mennesker, og til å utvikle nye produkter og tjenester. AGI-systemer kan kanskje brukes til å løse noen av verdens mest presserende problemer, som klimaendringer og fattigdom.
Det er imidlertid en rekke potensielle risikoer forbundet med AGI. For eksempel kan AGI-systemer brukes til å utvikle autonome våpen som kan drepe uten menneskelig innblanding og til å spre feilinformasjon og propaganda.
- For en sannhetssøkende superintelligens er menneskeheten mye mer interessant enn ikke-menneskeheten, hevder Musk. - Verdensrommet og Mars er veldig interessant, men det blekner i sammenligning med hvor interessant menneskeheten er.
Fermi-paradokset Musk hevder også at det er mye vi tror vi forstår, men som vi likevel ikke forstår fullt og helt, for eksempel tyngdekraftens natur, og at det ikke foreligger solide bevis for at aliens ikke eksisterer.
Han gikk videre inn på Fermi-paradokset og hvordan det er mulig at annen bevissthet kanskje ikke eksisterer i vår galakse. Fermi-paradokset er en motsetning mellom vurderinger av sannsynligheten for at utenomjordisk liv eksisterer og fraværet av åpenbare bevis for det. Paradokset ble navngitt etter den italienske fysikeren EnricoFermi, som nevnte det i en samtale med kolleger i 1950, da han kom med det berømte spørsmålet: “Hvorer de?”
Hvis du stiller dagens avanserte AI tekniske spørsmål, får du bare nonsens tilbake, Musk mener vi bommer på målet og har mye å lære. xAI vil bruke tung databehandling, men mengden 'brute force' vil bli mindre etterhvert som de begynner å forstå problemet bedre.
Teorien om alt Medgrunnlegger GregYang sier at matematikken de finner hos xAi kan åpne opp nye perspektiver på eksisterende spørsmål som Teorienom alt.
Teorien om alt er en hypotetisk fysisk teori som forener kvantemekanikk og generell relativitetsteori. Hvis teorien lykkes, vil den gi en fullstendig forståelse av universets natur og hvordan det fungerer. Det er imidlertid viktig å merke seg at teorien om alt fortsatt er en hypotetisk teori. Det er ikke bevist, og det er mulig at det aldri vil bli bevist. Men selv om teorien ikke lykkes, vil arbeidet med å forene kvantemekanikk og generell relativitetsteori sannsynligvis føre til nye og viktige oppdagelser om universet.
Musk sa at man ikke kan kalle noe AGI før datamaskinen løser minst ett slikt grunnleggende spørsmål: - Vi er for dumme til å innse hvor enkle svarene egentlig er. Vi vil sannsynligvis finne dette ut med AGI også. Når utfordringen med AGI er løst, vil vi se tilbake og tenke, hvorfor trodde vi at det ville være så vanskelig.
Målet er å gjøre xAI til et nyttig verktøy for folk og bedrifter, og at det er verdifullt med flere enheter og konkurranse. - Konkurranse gjør selskaper ærlige, sier Musk.
Jeg er litt usikker på hva han egentlig mener med det utsagnet, så jeg spurte Bard om hva det kunne innebære: “Musks tro på konkurranse er basert på troen på at det frie markedet er den beste måten å produsere gode produkter og tjenester til lave priser. Han tror at konkurranse er nødvendig for å drive innovasjon og for å sikre at kundene får det beste mulige tilbudet.”
Så da vet vi det.
Hva er sannhet? Et annet interessant utsagn er at vi på et tidspunkt vil gå tom for menneskeskapt data, og da må AI generere sitt eget innhold og selv vurdere dette innholdet.
- Det er en betydelig fare ved å trene AI til å være politisk korrekt eller trene den til ikke å si hva den tror er sant, så hos xAI vil vi la AI-en si hva den tror er sant, sa Musk.
En AI som er politisk korrekt eller vil å unngå å si ting som kan oppfattes som støtende, kan føre til at den blir partisk og dermed upålitelig.
Sannhet er et komplekst begrep som har vært diskutert av filosofer og teologer i århundrer. Selv om det ikke er noe enkelt svar på spørsmålet, er det noen fellestrekk som de fleste eksperter er enige om. Sannhet er vanligvis forstått som en overensstemmelse mellom en påstand og virkeligheten, en konsistens mellom forskjellige påstander, eller en objektiv egenskap ved påstander.
AGI innen 2029
Musk ser for seg at superintelligens, eller en AI som er smartere enn mennesker, kan stå klar allerede om fem eller seks år. Han tror dermed at RayKurzweils spådom om AGI innen 2029 er ganske nøyaktig, pluss-minus et par år. Kurzweil mener at maskiner vil bli i stand til å løse Turingtesten innen den tid.
Kurzweil er en amerikansk pionér innen datateknologien; OCR (optisk gjenkjenning av tegn), tekst-til-tale syntese, talegjenkjenning og elektroniske musikk-keyboards. Han er forfatter av flere bøker om kunstig intelligens. Han fikk National Medal of Technology i 1999, som er USAs høyeste utmerkelse innen teknologi. Han har fått en rekke andre utmerkelser og er æresdoktor ved 15 universiteter.
Elon Musks visjon om å bygge en AGI med xAI er ambisiøs og kontroversiell. Den kan potensielt forandre samfunnet på måter vi ennå ikke fullt ut forstår. Men det er klart at Musks visjon for xAI er tydelig: en AGI som er nysgjerrig, sannhetssøkende, og klar til å løse universets store mysterier.
Mens denne teknologien fortsatt er hypotetisk, og risikoene er mange, kan mulighetene være endeløse.
.png)
.png)
.png)
.png)