Llama 3.2 lanseras – bildförståelse och lokal AI på mobilen

Llama 3.2 lanseras – bildförståelse och lokal AI på mobilen

Den 25 september 2024 lanserade Meta Llama 3.2, en modellfamilj som för första gången gav Llama-modellerna inbyggd bildförståelse och samtidigt introducerade små textmodeller för lokal användning på mobiler och andra enheter.

Marketplace sammanfattar lanseringen i efterhand. Familjen bestod av multimodala modeller på 11B och 90B samt mindre textmodeller på 1B och 3B. Kombinationen gjorde Llama relevant både för molnbaserad bildanalys och resurssnål AI direkt på enheten.

Llama 3.2 i korthet

| Modell | Inriktning |
|---|---|
| 1B och 3B | Lokal text-AI, sammanfattning och verktygsuppgifter |
| 11B och 90B | Text- och bildförståelse |
| Kontext | Upp till 128 000 tokens |
| Lanseringsdatum | 25 september 2024 |
| Distribution | Nedladdningsbara vikter och molnpartner |

Bildförståelse

De större modellerna kunde analysera fotografier, diagram, skärmbilder och dokumentbilder. Det gav användningsområden som:

• tolka ett diagram
• beskriva ett foto
• läsa en skärmbild
• jämföra visuella alternativ
• analysera dokument med både text och bild

Bildförståelse var inte felfri. Små siffror, låg upplösning och ovanliga symboler kunde misstolkas. Ekonomiska, medicinska och tekniska beslut behövde därför kontrolleras mot originalmaterialet.

Små modeller på enheten

1B- och 3B-versionerna var utvecklade för att kunna köras med begränsade resurser. Lokal körning kunde ge lägre svarstid och minska behovet att skicka rådata till ett datacenter.

Möjliga funktioner var:

• sammanfatta lokal text
• skriva om meddelanden
• klassificera innehåll
• välja verktyg
• skapa korta svar offline

Lokal AI är inte automatiskt privat. Appens behörigheter, loggning och molnsynkronisering avgör fortfarande hur data behandlas.

Verktygsanvändning

De mindre modellerna kunde byggas in i agentflöden där de valde funktioner eller hanterade enkla deluppgifter. En mobilapp kunde exempelvis låta modellen förstå en instruktion och anropa kalender, anteckningar eller en lokal sökfunktion.

Agenten bör ha minsta möjliga behörighet. En modell som bara ska läsa en anteckning behöver inte rätt att skicka meddelanden eller radera filer.

Öppna modellvikter och ansvar

Meta gjorde modellerna tillgängliga under Llama-licensen. Det gav utvecklare frihet att drifta och finjustera modellerna, men flyttade ansvar för säkerhet och uppdateringar till den som byggde produkten.

Organisationen behövde hantera:

1. licensvillkor
2. säkerhetsfilter
3. personuppgifter
4. modellversioner
5. loggning
6. incidenthantering

Svenska användningsområden

Llama 3.2 kunde användas för lokal dokumentsammanfattning, mobil support, bildanalys och privata RAG-lösningar. Svenska språkresultat behövde testas separat eftersom mindre modeller ofta är känsligare för språk och facktermer.

Vanliga frågor

När lanserades Llama 3.2?

Den 25 september 2024.

Vilka modeller kunde förstå bilder?

11B- och 90B-versionerna.

Kunde modellerna köras på mobilen?

De mindre 1B- och 3B-modellerna utvecklades för lokal och resurssnål användning, beroende på hårdvara och implementation.

Var Llama 3.2 helt open source?

Meta gjorde vikterna tillgängliga under sin communitylicens, men träningsdata och alla delar var inte helt öppna.

Sammanfattning

Llama 3.2 lanserades den 25 september 2024 och breddade Meta AI från stora textmodeller till bildförståelse och lokal AI på enheter.

Familjen gav utvecklare fler val mellan integritet, kostnad och kapacitet. Men lokal drift och öppna vikter krävde fortsatt licenskontroll, säkerhetstester och tydliga behörighetsgränser.

Faktaunderlag: Metas officiella lanseringsmaterial för Llama 3.2, publicerat 25 september 2024. Artikeln är en historisk sammanfattning publicerad i efterhand.