AI Flashcards
Hvad er prompt engineering?
En måde at arbejde med de prompts man giver sprogmodeller. Dette kunne eksempelvis være ved at tildele en sprogmodel en rolle.
Forklar algoritmisk tænkning
Algoritmisk tænkning, er en måde at løse problemer på, hvor alle komponenter i problemløsningen er afhængige af hinanden
Hvordan hænger kreativitet sammen med ai? (mulighedsrum)
Med algoritmisk kreativitet kan man gøre det muligt at iterere og spytte mange forslag ud på en gang. Mulighedsrummet definere den “kasse” af muligheder, man giver algoritmen i sine variabler / parametre. I denne sammenhæng er det vigtigt at regelsætte og afgrænse mulighedsrummet til sin kreative process.
Hvordan kan man bruge AI i designprocesser? - særligt i double diamond
I Double Diamond, metoden kan man bruge AI til at komme bredere ud i modellen. På denne måde, kan man bruge et værktøj som chatgpt til at komme længere ud i mulighedsrummet.
Hvordan kan man bruge generativ ai? - hvilke medier kan man lave?
Man kan generere tekst, billede, lyd, video.
Ai programmer:
Chatgpt
midjourney
runaway
Dallee
Hvordan er rettigheder ifht. generativ ai
“Ophavsretten opstår med værkets skabelse”
- https://denstoredanske.lex.dk/ophavsret,
What makes this AI different is that it’s explicitly trained on current working artists
- RJ Palmer, digital artist, on Twitter
Rettigheder ifm. generativ ai er en gråzone, da modellerne er trænet på eksisterende ting, men genereres ud fra en “random noise”, der holdes op mod træningssættet i diskriminationen i modellen.
Som forbruger kan man ikke ligge copyright på ai genereret content. Alle kunstnere der har taget kampen op juridisk, har ikke vundet deres sag i kampen mod ai genereret content der ligner deres kunst
Hvordan er en sprogmodel som chatgpt bygget op og hvordan udmærker den sig?
Det helt særlige ved chatgpt’s model, er den transormer arkitektur, der er pålagt LLM’en. Dette vil sige at den barbejder sekvenser af sætninger eller kode, der betyder at den bruger ord i fx en sætning, til at forstå de andre.
Denne form for arkitektur, kom frem i lyset i 2017 igennem research paperet “Attention is All You Need”.
En sprogmodel som ChatGPT er bygget op omkring flere nøgleelementer og processer:
Data:
En vigtig byggesten i en LLM er dataen, som modellen trænes på. For eksempel er GPT-3 bygget på 45 terabyte tekstdata, der indeholder milliarder af ord.
Arkitektur:
Transformer-arkitektur: ChatGPT bruger en transformer-arkitektur, der behandler sekvenser af sætninger eller kode. Denne arkitektur blev introduceret i forskningspapiret “Attention is All You Need” fra 2017.
Parallel Processing: Transformer-modellen kan behandle alle ord i en sætning parallelt, i modsætning til tidligere RNN- og LSTM-modeller, som behandlede ord sekventielt.
Den nye “feature” ved transformer modellen er Attention Mechanism: Transformer-modellen anvender en attention-mekanisme, som gør det muligt at fokusere på de vigtigste dele af en tekst uanset afstanden mellem ordene.
Træning:
Step 1: Self-supervised learning: Modellen lærer at forudsige det næste ord i en sætning uden brug af labels eller menneskelig feedback.
Step 2: Instruction tuning (Supervised learning): Modellen finjusteres med superviseret læring ved at bruge data med labels.
Step 3: Reinforcement learning from human feedback (præference tuning): Modellen modtager menneskelig feedback på dens output, som bruges til yderligere finjustering. Feedback kan være positiv eller negativ baseret på, hvor godt modellens output matcher forventningerne, hvilket hjælper med at forbedre kvaliteten af genereret tekst.
Bygget op af NLP (Natural Language Processesing) som vurderer hvad det næste ord i en sætning er.
Hvad er en LLM og hvordan fungerer den?
En LLM (Large Language Model) er en avanceret type neuralt netværk, som er designet til at forstå og generere menneskelig tekst. Her er hovedpunkterne om, hvordan en LLM fungerer
Består af en foundation model: LLM’er er bygget på baggrund af store mængder uannoterede data og self-supervised læring. Dette betyder, at modellen lærer mønstre i data uden behov for menneskelige annoteringer, hvilket gør det muligt at generere generaliserende og tilpasningsdygtige output.
Interne parametre og kontekst: Når du interagerer med en LLM som ChatGPT, bruger den sine interne parametre til at generere svar baseret på den kontekst, den modtager. Disse parametre er justeret gennem træning på store mængder tekstdata for at lære at producere passende og meningsfulde svar.
Forudsigelse af næste ord: Modellen forudsiger det næste ord i en sætning baseret på den kontekst, den har modtaget. Denne proces med at vælge det mest passende svar er baseret på modellens træning og dens interne forståelse, kodet i dens parametre.
Hvad er et GAN (Generative Adversarial Network), og hvad bruges det til
Et GAN bruges til billedgenereringsværktøjer som chatgpt’s dall-e eller midjourney
Et GAN er En måde hvorpå to neurale netværk (en generator og en diskriminator) spiller med hinanden i et nulsumsspil - den ene agents win er den andens loss. Generatoren prøver at skabe nye billeder ud fra en random noise, der ser ægte ud, men er genereret fra bunden. Diskriminatoren prøver skelne mellem generatorens billeder og de billeder, der er i modellens datasæt. Ud fra dette lære den hvordan ægte billeder ser ud, så den kan identificere de falske
På denne måde prøver generatoren at narre diskriminatoren, der bliver bedre og bedre til at opdage falske genererede billeder. På den måde bliver generatoren bedre til at forfalske og diskriminatoren bedre til at se hvad der er falskt. Diskriminatoren sikrer, at generatoren ikke “snyder” ved blot at producere noget, der ser godt ud ved første øjekast, men som ikke holder ved nærmere undersøgelse.
Så selvom du som bruger ser generatoren som den, der vinder, er det faktisk samspillet mellem generator og diskriminator, der driver kvaliteten af det, du ser.
Hvad er forskellen på transformativ kreativitet og eksplorativ kreativitet?
Eksplorativ kreativitet er, når opfindelsen ligger inden for
de normale regler for vores mulighedsrum.
Transformerende kreativitet er, nar vi opfinder det nye og originale, som fuldstendigt nedbryder rammerne og reglerne for det mulighedsrum, vi udforsker 4 men hvor outputtet stadigvek er brugbart og verdifuldt.
Hvordan kan generativ AI være biased?
I billede genereringsværktøjer som chatgpt og midjourney er der eksempelvis et bias i forhold til hudfarve når man generere billeder.
Udover det, er der også kønssterotyper - hvis man fx prompter ”a doctor gettingreadyfor work” d. 8/5 2024 er det en mand, der fremvises.
