De flesta AI-produkter säljs på vad de kan. Ett dokumentationsverktyg i vården bör lika mycket bedömas på vad det vägrar göra. Här är sex gränser vi tycker att vilket verktyg som helst i den här kategorin ska hålla — och varför var och en spelar roll för den som signerar.
Utkastet ska referera, inte bedöma. Om en mening i diagnosfältet innehåller "tyder på", "sannolikt" eller "misstänker" har verktyget gjort en egen bedömning, inte återgett din.
Varför det spelar roll: en diagnos i journalen är din, oavsett vem som formulerade den först. En formulering som glider in för att den lät rimlig är svår att upptäcka just för att den låter rimlig.
Inga doser, inga produktförslag, inget "överväg". Ett verktyg som föreslår behandling är beslutsstöd — en annan produktkategori med andra krav.
"Hög risk för fortsatt karies" är en bedömning, inte en anteckning. Sa du det själv ska det stå. Sa du det inte ska det inte uppstå i texten.
Det här är den gräns som gör de andra kontrollerbara. Varje mening i utkastet ska peka tillbaka på var i samtalet den kommer ifrån. Kan den inte det ska den utelämnas helt, inte tas med "för säkerhets skull".
Ett utkast där du inte kan spåra en mening tillbaka till något som faktiskt sades är inte dokumentation. Det är en gissning med bra formatering.
När ljudet var otydligt eller informationen ofullständig ska det stå separat — inte fyllas i med det mest sannolika. Ett tomt fält är ärligt. Ett gissat fält är farligt just för att det ser komplett ut.
Självklart i teorin, värt att kontrollera i praktiken: går det att slå på ett läge där utkast sparas automatiskt? Om ja, finns risken att någon gör det en stressig dag.
Alla sex går att skriva som instruktioner till en språkmodell. Problemet är att en instruktion kan tappas bort — vid en modelluppdatering, vid en promptändring, eller för att modellen helt enkelt inte följde den den gången.
I Welvo Scribe kontrolleras varje genererat utkast efteråt mot samma sex gränser, av kod som inte bryr sig om vad modellen tycker. Bryter ett utkast mot en gräns avvisas det och sessionen markeras som misslyckad — den visas aldrig för en behandlare som skulle kunna hinna lita på den. Samma kontroll körs en gång till när du trycker godkänn, mot exakt den text som skickas vidare.
Det är inte en garanti för att inget kan gå fel. Det är skillnaden mellan en förhoppning och en spärr.