Når robotten tager fejl
Indlæser …
Det lærer du
Til sidst kan du forklare to måder AI svar gå galt og tjekke et svar, før du bruger det.
Rui spørger en hjemmehjælper: "Hvor mange måner har Mars?" AI svarer: "Mars har 3 måner: Phobos, Deimos og Ares." Det lyder sikkert. Rui tjekker en rumbureauside: Mars har to måner. Den tredje blev opfundet, og AI sagde ikke, det var usikkert.
Læs forklaringen
AI forudsiger, hvordan et godt svar normalt ser ud. Når den ikke ved det, kan den stadig give et tillidsfuldt svar med opdigtede navne, datoer eller fakta: en hallucination. Det lærer også af data fra mennesker, så ensidige eksempler giver ensidige svar: skævvridning. Ingen fejl kommer med en advarsel, så et menneske skal tjekke.
- At lyde sikker er ikke det samme som at have ret.
- Spørg: Hvor ville dette blive kontrolleret? En lærebog, en officiel hjemmeside, et bibliotek.
- Brug AI som en hjælper til ideer, ikke som den endelige dommer.