Mye av teksten KI-modeller lærer matematikk fra, er skrevet av andre KI-modeller. En lærebokside med et gjennomregnet eksempel kan ha et dusin mellomregninger, og hver av dem kan være feil. Vi ville vite hvor ofte det skjer, og regnet etter.
Hva vi gjorde
Vi tok et stort, åpent korpus med rundt 12,9 millioner lærebokaktige dokumenter som er laget for å forhåndstrene språkmodeller. Fra et tilfeldig utvalg på 100 000 dokumenter hentet et program ut 313 255 regnestykker med tall på begge sider av likhetstegnet, og regnet ut begge sider eksakt. Reglene for hva som teller som avvik, ble låst på andre dokumenter før vi kjørte.
Hva vi fant
- Flagget. Programmet flagget 6 025 regnestykker. En kontroll med et annet regneprogram bekreftet 6 000 av dem, fordelt på 3 413 dokumenter.
- Kontrollert for hånd. Av 200 tilfeldig valgte flagg vurderte vi 80,5 prosent som ekte feil.
- Omfang. Vi anslår at 2,9 prosent av dokumentene har minst én regnefeil som programmet kan oppdage, og at 1,5 prosent av de kontrollerte regnestykkene er feil.
- Type feil. De fleste er gale svar på summer, produkter og divisjoner inne i gjennomregnede eksempler.
Hvor kommer feilene fra?
I en beslektet tekstsamling, der hver tekst kan spores tilbake til kilden, så vi nærmere på de ekte feilene. Anslagsvis 42 prosent oppgir et tall som ikke står i kilden, så feilen har oppstått da modellen skrev om teksten. 55 prosent gjentar en feil som allerede sto i kilden.
Hva tallene ikke dekker
Programmet fanger bare regnestykker som står eksplisitt i teksten, og som det klarer å lese. Feil i resonnementer, bevis og oppgaver uten utregning er ikke med.
Åpne data
Regneprogrammet, utvalget, alle flaggene og vurderingene våre ligger åpent på Zenodo: doi.org/10.5281/zenodo.23602723. Der står også navnet på korpuset og sammenligningen med fire andre tekstsamlinger. Studien er skrevet av Vetle Wammer.
For oss er dette praktisk arbeid. Data som skal lære en modell å regne, må regnes etter først.