OpenAI o1 lanseras – AI-modellen som tänker längre före svaret

OpenAI o1 lanseras – AI-modellen som tänker längre före svaret

Den 12 september 2024 presenterade OpenAI modellserien o1, utvecklad för att lägga mer beräkning på svåra problem innan den svarade. Lanseringen omfattade o1-preview och den mindre o1-mini och markerade ett tydligt skifte från modeller som främst optimerades för snabba svar till modeller som kunde arbeta längre med matematik, programmering och vetenskap.

Marketplace sammanfattar lanseringen i efterhand. o1 var långsammare och dyrare än GPT-4o och saknade flera av ChatGPTs verktyg vid starten, men serien blev grunden för en ny generation så kallade reasoning-modeller.

OpenAI o1 i korthet

| Punkt | Uppgift vid lanseringen |
|---|---|
| Lanseringsdatum | 12 september 2024 |
| Första modeller | o1-preview och o1-mini |
| Huvudområde | Flerstegsresonemang i matematik, kod och vetenskap |
| Metod | Mer beräkning och intern problemlösning före svaret |
| ChatGPT-tillgång | Plus- och Team-användare först, med användningsgränser |
| API | Tillgängligt för kvalificerade utvecklare |
| Begränsningar | Långsammare, dyrare och initialt utan flera multimodala verktyg |
| Säkerhet | Nya utvärderingar och högre säkerhetspoäng i vissa tester |

Vad menades med att modellen ”tänkte”?

Ordet tänkande användes som en praktisk beskrivning av att modellen genomförde fler interna beräkningssteg innan den presenterade svaret. Det innebar inte att systemet hade mänskligt medvetande eller förståelse.

I stället tränades o1 för att förbättra sin problemlösningsstrategi genom förstärkt inlärning. Modellen kunde pröva olika angreppssätt, upptäcka vissa fel och justera sin metod innan den gav ett slutresultat.

Det var särskilt användbart när uppgiften krävde:

• flera matematiska steg
• planering av en algoritm
• felsökning av komplicerad kod
• analys av ett vetenskapligt problem
• hantering av flera samtidiga regler
• en strukturerad bevis- eller problemlösningskedja

För en enkel sammanfattning eller vardagsfråga kunde GPT-4o fortfarande vara snabbare och mer praktisk.

o1-preview och o1-mini

OpenAI lanserade två modeller med olika profil.

| Modell | Inriktning |
|---|---|
| o1-preview | Den starkare förhandsversionen för komplex problemlösning |
| o1-mini | Mindre och billigare modell, särskilt inriktad på kod och naturvetenskapliga uppgifter |

OpenAI beskrev o1-mini som betydligt billigare än o1-preview. Det gjorde den mer lämplig för utvecklare som behövde många körningar men inte alla egenskaper hos den större modellen.

Modellvalet behövde baseras på den faktiska uppgiften. Den dyraste modellen var inte automatiskt bäst för kundtjänst, klassificering eller kort textbearbetning.

Starka resultat i matematik och kod

OpenAI rapporterade stora förbättringar jämfört med GPT-4o i flera svåra utvärderingar. Företaget lyfte bland annat resultat på kvalificeringstest för Internationella matematikolympiaden och tävlingsprogrammering.

Benchmarkresultat behöver ändå läsas försiktigt. En modell kan vara stark på standardiserade problem men göra fel när:

• frågan är otydlig
• verkliga data är ofullständiga
• ett bibliotek har ändrats
• uppgiften kräver aktuell information
• svaret måste följa en lokal regel eller organisationens policy

Ett högt provresultat ersätter därför inte testning i den miljö där modellen ska användas.

Långsammare svar var en del av designen

o1 kunde ta betydligt längre tid än GPT-4o eftersom modellen använde mer beräkning före svaret. Det var inte nödvändigtvis ett prestandafel, utan själva produktidén.

Användaren fick välja mellan två typer av upplevelse:

• ett snabbt svar på en relativt enkel fråga
• ett långsammare svar på ett problem där noggrann planering kunde ge bättre resultat

Den skillnaden blev senare vanlig i AI-produkter, med separata lägen för Instant och Thinking eller automatisk routing mellan snabb och djup bearbetning.

Varför visades inte hela resonemanget?

OpenAI valde att inte visa modellens fullständiga interna chain of thought. Användaren kunde få en sammanfattning eller ett svar, men inte hela den råa interna arbetsprocessen.

Företaget angav flera skäl:

• den interna texten kunde innehålla osäkra eller missvisande mellanled
• den kunde utnyttjas för att kringgå säkerhetskontroller
• den var en del av modellens utvecklings- och övervakningsmetod
• ett långt råresonemang var inte alltid användbart för användaren

Det skapade samtidigt en transparensfråga. I viktiga beslut behövde användaren kunna kontrollera underlag, antaganden och beräkningar även om den interna modellprocessen inte visades.

En bra prompt var därför att be modellen redovisa en kort verifierbar lösning, källor och mellanberäkningar som kunde granskas, snarare än att kräva privata interna tankar.

Begränsningar vid lanseringen

Den första o1-versionen saknade flera funktioner som användare förknippade med GPT-4o. Modellen hade initialt begränsat eller inget stöd för:

• webbsökning
• fil- och bildanalys i vissa produktlägen
• röstfunktioner
• snabb respons
• breda anpassningsmöjligheter

OpenAI rekommenderade därför fortfarande GPT-4o för många vanliga användningsfall. o1 var ett specialverktyg för problem där den extra resonemangskapaciteten motiverade väntetid och kostnad.

Säkerhetsarbetet förändrades

En reasoning-modell kan inte bara lösa fler positiva uppgifter. Den kan även bli bättre på att planera riskfyllda handlingar eller hitta vägar runt en begränsning.

OpenAI utvecklade därför nya säkerhetsutvärderingar och använde modellens resonemangsförmåga för att bättre följa säkerhetsregler. Företaget rapporterade förbättringar i ett test där modeller försökte följa säkerhetspolicy trots manipulerande instruktioner.

Men säkerheten behövde bedömas på flera nivåer:

1. vilka frågor modellen svarar på
2. vilka verktyg den får använda
3. vilka system den kan nå
4. hur handlingar loggas
5. när en människa måste godkänna nästa steg

En smartare modell behöver starkare externa gränser, inte bara bättre instruktioner.

Användning för programmering

o1-mini blev särskilt intressant för utvecklare. Modellen kunde hjälpa till att planera en implementation, analysera algoritmer och hitta logiska fel i kod.

Ett säkert arbetsflöde var att:

• beskriva problemet och kraven
• be modellen föreslå testfall först
• låta den förklara viktiga antaganden
• köra koden i en isolerad miljö
• använda statisk analys och tester
• genomföra mänsklig kodgranskning

Modellen kunde fortfarande använda felaktiga API:er, missa race conditions eller skapa osäker kod.

o1 för forskning och utbildning

Studenter och forskare kunde använda modellen som stöd för att bryta ned svåra problem. Men ett korrekt slutresultat var inte tillräckligt om studenten inte förstod metoden.

Ett bättre utbildningssätt var att be o1:

• ge en ledtråd i taget
• kontrollera elevens eget försök
• visa en alternativ metod
• skapa ett liknande övningsproblem
• peka ut exakt var resonemanget började gå fel

För forskning kunde modellen hjälpa med hypoteser och kod, men resultat behövde kontrolleras mot litteratur, data och reproducerbara experiment.

Kostnad per lyckat problem

Reasoning-modeller använder ofta fler token och mer beräkning. Därför behöver företag mäta mer än pris per anrop.

| Mätpunkt | Varför den är viktig |
|---|---|
| Kostnad per körning | Visar direkt modellkostnad |
| Andel korrekta resultat | Avgör om modellen faktiskt löser uppgiften |
| Tid till svar | Påverkar arbetsflödet och användarupplevelsen |
| Behov av mänsklig rättning | Visar den dolda kostnaden |
| Antal omkörningar | Kan göra en billig modell dyrare totalt |

En dyrare o1-körning kunde vara ekonomisk om den ersatte många misslyckade snabbare körningar. För enkla uppgifter var motsatsen ofta sann.

Vägen till senare reasoning-modeller

o1 etablerade ett nytt namnsystem och en ny produktkategori hos OpenAI. Senare kom o3, o4-mini och huvudmodeller som automatiskt kunde välja mellan snabbare och djupare bearbetning.

Utvecklingen ledde också till en tydligare uppdelning mellan modeller för vardagligt samtal och modeller för professionellt problemlösningsarbete.

Läs även om GPT-4o och den multimodala modellen som lanserades tidigare 2024.

Vanliga frågor

När lanserades OpenAI o1?

OpenAI presenterade o1-preview och o1-mini den 12 september 2024.

Var o1 bättre än GPT-4o?

På många svåra matematik-, kod- och resonemangsuppgifter var o1 starkare. GPT-4o var snabbare och hade fler multimodala verktyg.

Visade o1 hela sitt resonemang?

Nej. OpenAI visade inte modellens fullständiga interna chain of thought.

Var o1 gratis?

Vid lanseringen fick betalande ChatGPT-användare först tillgång med tydliga användningsgränser.

Vad var o1-mini?

Det var en mindre och billigare reasoning-modell med särskilt fokus på kod och naturvetenskapliga uppgifter.

Kunde o1 fortfarande göra fel?

Ja. Modellen kunde resonera länge och ändå utgå från ett felaktigt antagande eller ge ett felaktigt slutresultat.

Sammanfattning

OpenAI o1 lanserades den 12 september 2024 och etablerade reasoning-modellen som en ny AI-kategori. Genom att använda mer beräkning före svaret kunde modellen lösa fler svåra problem inom matematik, kod och vetenskap.

Förbättringen kom med högre kostnad, längre väntetid och nya säkerhetsfrågor. o1 visade att framtidens AI inte bara skulle bli snabbare, utan även kunna välja när ett problem behövde mer planering och verifiering.

Faktaunderlag: OpenAI, ”Introducing OpenAI o1”, publicerad 12 september 2024. Artikeln är en historisk sammanfattning publicerad i efterhand.