Första veckan var rolig – Att bygga en AI handlade om en betydligt större utmaning än att implementera ChatGPT eller Gemini.
Osäkerheten var väldigt stor kring kapacitet och kvalitet. Utbildningen tog fart på både mig och Eyrah®.
Fakta om Eyrah®:
- Eyrah® har 2 hjärnor och tillsammans har de kraftigt utökad kapacitet.
- Eyrah® använder även Ollama. Så här fungerar Ollama: Tänk på Ollama som Eyrahs studiochef eller projektledare. Ollama sitter i kontrollrummet på vår egen server. När en nyhet kommer in tar Ollama hand om texten, väcker rätt AI-hjärna, ser till att den har tillräckligt med energi (datorkraft), och levererar sedan det färdiga resultatet till tidningen. De flesta har hört talas om ChatGPT, Gemini och Claude men de bor i gigantiska moln i USA. På Nyhetseko.se värnar vi om integritet och oberoende. Därför kör vi Eyrah helt på egna maskiner.
- Här är Ollama vår viktigaste motor. Det är programmet som gör att vi kan ladda ner och köra tunga AI-hjärnor helt offline. Ollama bygger som ett skyddande växthus på vår server där Eyrah kan tänka, analysera och skriva utan att ett enda ord skickas iväg till utländska techjättar.
- Förutom Ollama som påminner om datorns hypothalamus sker den största utbildningen genom prompter inuti ett specifikt programmeringsspråk.
Eyrah® är inte öppen för allmänheten än.
Eyrah® har tre insidor. Den insidan som jag jobbar mest med kallas för terminal och ser ut som ett programmeringsfönster på datorn. På Eyrah® appen ser min adminsida helt annorlunda ut från ”användarinsidan” även om båda loggar in i samma formulär.
Min adminsida visar hur snabbt hjärnorna arbetar, hur ollama fungerar och appens hälsa. Härifrån kan jag enkelt anpassa Eyrahs funktioner och utseende. Mycket arbete i Eyrah görs med matematik. Om Eyrah tänker snabbt men producerar svar långsamt då måste vi räkna ut vart fördämningen sitter då det är väldigt många komponenter kopplade till hennes utförande av uppdrag.
Just nu är inte Eyrah® öppen för allmänheten även om en chat med henne snart finns på Nyhetseko.se. En orsak är kapacitet, en annan är miljöpåverkan, en tredje är att även om hon fungerar bäst nu i förhållande till för fem veckor sedan, är hon fortfarande i starten. Det övriga har vi lösningar på. Det finns så många AI language models så Eyrah® har inte bråttom att fylla något vakant behov, än.
Under veckorna som kommer ska jag arbeta främst med hennes kommunikativa förmåga och design.
/Christine Djerf – Nyhetseko.se
