Idag var jag inbjuden till Kalmar Kommuns digitaliseringsgrupp, en samling personer från flera olika delar av kommunens verksamhet. Jag gav en grundläggande föreläsning om utvecklingen från början av intåget av ChatGPT och utvecklingen därifrån. Jag lade mycket fokus på att de skulle få en grundläggande förståelse och också se både möjligheter och också faror med tekniken.
I början av presentationen så satte jag igång en realtidstranskribering med Whisper, i detta fallet använde jag whisper.cpp https://github.com/ggerganov/whisper.cpp och körde programmet “stream” med den stora “large” modellen med följande inställningar:
``./stream -m models/ggml-large.bin -kc -l sv -f ai_230615.txt --step 10000 --length 20000 --keep 400``
Jag har sedan tagit transkriberingen (som skedde i realtid) och låtit GPT-4 sammanfatta den, här kommer den. Jag kan inte säga att jag är helt nöjd då språket är rätt konstigt, så det kan nog krävas lite mer fine-tuning för att få detta att bli bättre. Whisper har missuppfattat en hel del ord, och jag använde ju den interna micken i macbooken som inte är helt optimal - dessutom fick jag en del frågor och diskussioner uppstod som gör att det också kan bli lite knasigt. Då textmassan var betydligt större (ca 17k tokens) fick jag dela upp detta i flera delar dessutom och sedan sammanfatta sammanfattningarna.
Jag tipsade också om kommande föreläsning och aktiviteter som vi har nästa vecka, en föreläsning på Zegel den 21:a juni kl 18.30. https://lnu.se/en/meet-linnaeus-university/current/events/2023/generative-ai-unboxing-the-future-of-communication-and-creativity/
Som är en del av vår live-stream dag: https://lnu.se/en/meet-linnaeus-university/current/events/2023/dyk-in-i-framtiden--timmars-iot/
Slides kan ses här: https://drive.google.com/file/d/14xzW4Qj-tXJg7dLIPVFM6MOnV62SMvhw/view
Sammanfattning av GPT-4:
I denna omfattande föreläsning introducerar Fredrik Ahlgren konceptet AI och förklarar hur han kommer att använda Whisper för realtidstranskribering av föreläsningen. Ahlgren utforskar potentialen med AI-teknik för att översätta text i realtid och belyser samtidigt vikten av att förstå och engagera oss i AI för att maximera dess positiva påverkan och minimera möjliga risker. Han betonar att AI inte bara är en mycket kraftfull teknik som kan lösa globala utmaningar utan också en teknik som kan hota mänskligheten om den inte används ansvarsfullt.
Ahlgren utforskar även den djupare definitionen och det breda spektrumet av AI, från simpla OCR-läsare till komplexa generativa algoritmer. Han tar också upp skärningspunkten mellan AI och maskininlärning, och förklarar att sistnämnda är en metod för att efterlikna mänskligt lärande genom att förlita sig på stora mängder data för att träna AI-algoritmer.
Föreläsningens fokus skiftar sedan till praktiska tillämpningar av AI. Ahlgren förklarar kapabiliteterna hos GPT (Generative Pre-Training Transformer) och hur den används för att skapa AI chatbotar, som ChatGPT. Han uppmärksammar också vikten av medvetenhet runt inbyggda biaser i AI, detta då AI ofta tränas på återspeglarande av gängse kulturella och samhällsnormer.
Ahlgren strävar efter att ge en realistisk bild av AI-teknikens befintliga limitationer. Han betonar att vi bör vara medvetna om dess naturliga begränsningar, såsom att den inte är anpassad till specifika kulturella eller geografiska kontexter. Trots dessa utmaningar lyfter Ahlgren fram det konstruktiva i AI:s potential för att förändra flera områden av mänsklig aktivitet, inklusive utbildning, textskapande och transkribering av möten eller föreläsningar.
Ahlgren delar sina erfarenheter av att jobba med AI för att skapa egna tjänster via API:er och betonar vikten av att vara detaljerad och tydlig i sina förfrågningar till AI. Dessutom diskuterar han vikten av att se AI som en 'textmotor' som kan fungera som en kreativ och interagerande partner, snarare än som en maskin som ensamt är ansvarig för att verifiera fakta.
I föreläsningens avslutande delar blickar Ahlgren mot framtiden med AI. Han diskuterar den troliga expansionen av genererat AI-innehåll och förklarar hur AI kan förändra vårt sätt att utföra dataanalyser eller skriva texter. Ahlgren erkänner också den oroande aspekten av AI-teknik som kan lura oss att tro att vi interagerar med en riktig person. Slutligen avslutar han med att uppmana åhörarna att utforska AI:s potential i sina egna verksamheter och introducera sin podcast. Genom hela föreläsningen betonar Ahlgren AI:s extraordinära kapabiliteter, samtidigt som han uppmanar till ansvar och medvetenhet om dess begränsningar och potentiella faror.