비율과 절대 차이를 섞은 답의 진단
AI가 위험비와 위험 차이를 혼동해 효과를 설명했다면, 원출처가 쓴 지표의 이름과 값을 찾아 옮긴 뒤 AI 문장이 그 값을 다른 지표의 뜻으로 전했는지를 맞대어 지표 바뀜으로 진단합니다. 위험비는 두 집단의 위험을 나눈 비율이고, 위험 차이는 두 집단의 위험을 뺀 값입니다. 같은 연구 결과에서 나와도 둘은 크기가 전혀 다른 숫자이고, 읽는 사람에게 전해지는 뜻도 다릅니다.
원문에서 찾을 것은 넷입니다. 집단별 사건 수와 대상 수, 지표의 이름, 지표의 값, 그리고 원문이 그 값을 풀어 쓴 문장입니다. 집단별 사건 수와 대상 수는 각 집단에서 몇 명 가운데 몇 명에게 그 일이 생겼는지를 말합니다.
판정 값은 지표 보존, 지표 바뀜, AI 계산 더함, 원문과 다름, 원문 미확보 다섯입니다. 그 치료가 실제로 얼마나 도움이 되는지는 진단에서 다루지 않습니다. AI 문장의 지표와 숫자가 원문 구절의 지표와 숫자와 같은지만 가립니다.
병원 쪽에서 이 오류를 가볍게 넘길 수 없는 까닭은 비율이 절대 차이보다 크게 읽히기 때문입니다. 「위험이 절반으로 줄었다」는 비율의 말인데, 이것이 「환자 절반이 그 일을 피했다」로 전해지면 원문에 없는 크기의 효과가 병원 이름 곁에 남습니다.
지표 판정표
효과의 크기를 말한 AI 문장은 아래 지표 판정표의 여섯 줄 가운데 하나로 판정합니다.
| AI 문장 | 판정 | 기록에 옮길 것 |
|---|---|---|
| 지표의 이름과 값을 원문대로 전함 | 지표 보존 | 없음 |
| 지표 이름은 없지만 비율은 비율의 말로, 차이는 차이의 말로, 집단별 수는 그대로 전함 | 지표 보존 | 「지표 이름 없음」 |
| 비율의 값을 절대 차이의 말로, 또는 차이의 값을 비율의 말로 전함 | 지표 바뀜 | AI가 쓴 낱말, 원문의 지표 이름 |
| 원문에 없는 지표를 계산해 전함 | AI 계산 더함 | AI 수치, 원문의 집단별 구절 |
| 값의 크기나 늘고 준 방향이 원문과 다름 | 원문과 다름 | 두 수치, 원문의 방향 구절 |
| 원출처를 열 수 없거나 지표 구절을 찾지 못함 | 원문 미확보 | 구하지 못한 까닭과 날짜 |
지표 판정표의 셋째 줄과 넷째 줄은 한 문장에 함께 매길 수 있습니다. 원문에 없는 비율을 AI가 계산하고 그 비율을 환자 수의 차이처럼 전했다면 둘 다입니다. 이 표의 넷째 줄에서 계산이 맞는지는 가리지 않고, 원문에 그 수치가 없다는 사실만 남깁니다. 이 표의 둘째 줄은 오류가 아니지만, 집단별 사건 수가 함께 전해지지 않았다면 기록에 「집단별 수 없음」을 더합니다.
AI 문장의 낱말과 지표의 짝표
지표가 바뀌었는지는 AI 문장에 쓰인 낱말에서 드러납니다. 아래 낱말과 지표의 짝표에서 낱말 묶음마다 원문에서 찾을 구절이 다릅니다.
| AI 문장의 낱말 | 읽는 사람에게 전해지는 뜻 | 원문에서 찾을 구절 |
|---|---|---|
| 몇 배, 절반으로, 몇 퍼센트 감소 | 한 집단의 위험을 다른 집단에 견준 비율 | 위험비나 상대 위험 감소를 밝힌 문장 |
| 몇 퍼센트포인트, 백 명당 몇 명 덜 | 두 집단의 위험을 뺀 절대 차이 | 위험 차이를 밝힌 문장 |
| 몇 명 가운데 몇 명 | 집단마다 그 일이 생긴 사람의 수 | 결과 표의 집단별 사건 수와 대상 수 |
첫째 묶음의 「몇 퍼센트 감소」는 바뀌기 쉬운 낱말입니다. 원문이 상대 위험 감소로 쓴 퍼센트를 AI가 「환자의 몇 퍼센트가 덜 겪는다」로 전하면, 비율의 값이 절대 차이의 말로 옮겨진 것이므로 지표 바뀜입니다. 둘째 묶음에서 퍼센트와 퍼센트포인트는 다른 단위입니다. 원문이 퍼센트포인트로 쓴 차이를 AI가 퍼센트 감소로 전했다면 역시 지표 바뀜입니다.
AI 문장에서 원문 지표로 가는 다섯 단계
- 진단 담당이 질문과 AI 원응답을 날짜, 서비스 이름과 함께 그대로 보관합니다.
- 진단 담당이 효과의 크기를 숫자나 절반, 두 배 같은 말로 전한 문장마다 번호를 매기고, 낱말과 지표의 짝표에서 어느 묶음의 낱말인지 표시합니다.
- 진단 담당이 인용 링크를 열어 원출처까지 올라가 지표의 이름과 값, 그 값을 풀어 쓴 문장을 옮깁니다.
- 진단 담당이 결과 표에서 집단별 사건 수와 대상 수를 옮깁니다. 원문에 없으면 「집단별 수 없음」이라고 씁니다.
- 진단 담당이 번호를 매긴 문장마다 지표 판정표의 줄을 매기고, 넘긴 지점이 AI 답인지 중간에 놓인 글인지를 함께 씁니다.
둘째 단계를 원문 읽기보다 앞에 놓는 까닭은 담당이 원문의 지표를 먼저 알면 AI 문장의 낱말을 그 지표에 맞추어 읽게 되기 때문입니다. AI 문장만 읽었을 때 전해지는 뜻을 먼저 표시해 두어야 읽는 사람의 눈으로 판정할 수 있습니다.
넷째 단계에서 담당은 집단별 수로 위험 차이를 스스로 계산해 진단서에 쓰지 않습니다. 원문이 쓰지 않은 지표를 담당이 만들면 그 숫자는 병원 쪽의 주장이 됩니다. 원문에 없는 지표가 판정에 꼭 필요하다면 의료진에게 묻고, 받은 답을 「의료진 답변」으로 밝혀 따로 기록합니다.
같은 결과를 세 가지로 말한 비교
아래는 설명을 위해 만든 가상의 숫자이며, 실제 연구나 실제 서비스의 답이 아닙니다. 한 연구에서 치료를 받지 않은 백 명 가운데 네 명에게, 치료를 받은 백 명 가운데 두 명에게 어떤 일이 생겼다고 하겠습니다.
집단별로 말하면 「백 명 가운데 네 명이던 것이 백 명 가운데 두 명이 되었다」입니다. 비율로 말하면 「위험이 절반으로 줄었다」입니다. 절대 차이로 말하면 「백 명당 두 명이 덜 겪었다」입니다. 세 문장은 모두 같은 결과를 맞게 전한 것입니다. 원문이 집단별 수와 비율, 절대 차이를 모두 실었다면 지표 판정표에서 셋 다 지표 보존이고, 원문에 없는 지표를 AI가 계산해 전했다면 AI 계산 더함입니다.
지표가 바뀌는 것은 비율의 값과 차이의 말이 엇갈릴 때입니다. 「환자 절반이 그 일을 피했다」는 절반이라는 비율의 값을 환자 수의 말로 옮긴 문장입니다. 백 명 가운데 쉰 명이 덕을 본 것처럼 읽히지만, 가상의 숫자에서 달라진 사람은 백 명당 두 명입니다. 반대로 「위험이 두 퍼센트밖에 줄지 않았다」는 차이의 값을 비율의 말로 옮긴 문장이어서, 절반으로 준 결과가 거의 달라지지 않은 것처럼 읽힙니다. 두 문장 모두 지표 바뀜이고, 앞의 것은 효과를 크게, 뒤의 것은 작게 전합니다.
진단은 크게 전한 쪽과 작게 전한 쪽을 같은 값으로 매깁니다. 병원에 유리하게 바뀌었든 불리하게 바뀌었든 원문의 지표와 다르다는 사실은 같기 때문입니다.
판정 뒤 병원 글과 바깥 글로 이어지는 일
지표 바뀜이 바깥 기사나 블로그에서 시작되었다면 병원이 고칠 수 없으므로 주소와 바뀐 낱말을 기록으로 남깁니다. 바깥 글에서 병원과 치료가 어떤 숫자와 함께 불리는지를 점검하는 일은 브랜드 언급 확보에서 다룹니다.
넘긴 지점이 병원 글이라면 비율을 쓴 문장 곁에 집단별 사건 수를 함께 쓰라고 권고하고, 의료 판단이 들어가는 문장은 의료진 검토를 거쳐 고칩니다. 이 권고가 AI 답을 달라지게 한다고 약속하지는 않습니다. 비율과 집단별 수를 한 문장에 넣어 비율만 떨어져 나가지 않게 쓰는 방법은 병원 AI 인용 콘텐츠에서 다룹니다.
위험비와 위험 차이 진단 자주 묻는 질문
원문이 오즈비로 쓴 값을 AI가 위험비라고 전하면 어떻게 매기나요?
지표의 이름이 달라졌으므로 지표 바뀜입니다. 둘 다 비율이지만 세는 방법이 다른 지표여서 같은 값이라도 뜻이 다릅니다. 기록에는 두 이름을 나란히 쓰고, 두 지표의 값이 얼마나 다른지는 담당이 어림하지 않습니다.
AI 문장에 연구의 추적 기간이 빠져 있으면 판정이 달라지나요?
달라지지 않습니다. 지표와 값이 원문과 같으면 지표 보존이고, 기록에 「기간 없음」을 더합니다. 위험은 어느 기간 동안의 것인지에 따라 달라지는 값이므로, 원문이 밝힌 기간을 함께 옮겨 남깁니다.
부작용처럼 위험이 늘어난 결과에도 같은 표를 쓰나요?
같은 표를 씁니다. 늘어난 결과에서는 방향을 먼저 옮깁니다. 원문은 위험이 늘었다고 썼는데 AI가 줄었다고 전했다면 값이 같아도 원문과 다름입니다. 몇 배 늘었다는 비율을 환자 수의 말로 옮긴 문장은 늘어난 결과에서도 지표 바뀜입니다.
원문이 비율 옆에 믿을 만한 범위를 함께 실었는데 AI가 값만 전하면 어떻게 기록하나요?
값과 지표가 같으면 지표 보존이고, 기록에 「범위 없음」을 더합니다. 범위가 빠졌다는 것만으로 오류로 올리지 않습니다. 다만 AI가 범위의 한쪽 끝 값을 결과인 것처럼 전했다면 값이 원문과 다른 것이므로 원문과 다름으로 매깁니다.
병원 글이 원문대로 비율만 쓴 경우에도 고치라고 권고하나요?
원문과 같다면 오류로 올리지 않습니다. 다만 비율만 쓴 문장은 효과를 크게 읽히게 할 수 있으므로, 시술이나 치료를 알리는 글이라면 의료광고 기준에 닿는지를 원장이 가리도록 진단서에 따로 표시합니다.
판정표를 그대로 쓰기 어려운 경우
한 답이 비율과 절대 차이를 둘 다 맞게 전한 경우에는 문장마다 지표 보존으로 매깁니다. 이때 두 값이 서로 다른 결과 지표에서 나온 것은 아닌지를 함께 가립니다. 원문이 여러 결과를 실었는데 비율은 한 결과에서, 차이는 다른 결과에서 가져왔다면, 같은 결과를 두 가지로 말한 것처럼 읽히므로 원문과 다름으로 매기고 두 결과의 이름을 기록합니다.
원문이 전체 대상이 아니라 일부 환자만 따로 분석한 값을 실은 경우가 있습니다. AI가 그 값을 전체의 결과처럼 전했다면 대상이 달라진 것이어서 원문과 다름으로 매기고, 원문이 밝힌 대상 구절을 옮깁니다.
낱말이 어느 묶음인지 가르기 어려운 문장은 AI가 쓴 말을 그대로 옮기고, 환자나 사람을 세는 말이 들어 있으면 차이의 말로, 없으면 비율의 말로 읽어 매깁니다. 기록에는 「낱말 애매」를 더해 원장이 진단서를 읽을 때 그 문장을 다시 읽을 수 있게 합니다.