GPT医生,会加剧医疗不平等吗?
随着AI医疗的不断成熟,尤其是基于GPT训练医生正在成为现实。日前,有科学家警告说,医疗保健中的人工智能可能会加剧种族和收入不平等。来自剑桥大学和莱斯特大学的流行病学家警告说,大型语言模型(LLM)可
随着AI医疗的不断成熟,尤其是基于GPT训练医生正在成为现实。日前,有科学家警告说,医疗保健中的人工智能可能会加剧种族和收入不平等。
来自剑桥大学和莱斯特大学的流行病学家警告说,大型语言模型(LLM)可能会加深少数民族和低收入国家的不平等。尤其是在医疗保健中使用ChatGPT等人工智能模型会加剧不平等。
那么这种担心是来源于哪里呢?主要是科学家担忧源于系统性的数据偏差。医疗保健中使用的人工智能模型是根据来自网站和科学文献的信息进行训练的。但有证据表明,这些来源往往缺少种族数据。也就是说,GPT医生基于前沿的医学知识进行训练之后,在诊断层面会有明显的优势,但是在开具药方建议方面可能会出现无效药方的情况。
这主要是两方面的原因:一方面是在不同地区的药物会有很大的差异,尤其是贫困地区很难拥有最新的,或者比较先进的药物,这就会导致GPT医生所开具的药物处方失效;另外一方面是针对于不同族群,由于基因、体型方面的差异,患者所使用的药物剂量也会存在着比较大的差异,这也会导致GPT医生开具无效的药物建议或基于特定种族的医疗建议。
此外,科学家们还担心对低收入和中等收入国家(LMICs)的威胁。当前基于GPT所训练的医生,这种人工智能模型主要是由较富裕的国家所训练与开发,这些国家也主导着医学研究的资金。而中低收入国家的医疗数据在GPT医生的训练过程中,在医疗数据中的“代表性严重不足”。这可能导致GPT医生无法根据一些非发达国家的实际医疗情况,给出客观有效的诊疗建议。
但是不论如何,这至少让我们看到了借助于GPT医生可以在疾病诊断层面,实现有效的平等化,而在治疗方面或许还需要一些时间,或许会在GPT医生的推动下,我们人类社会会迎来基于GPT医生的医疗标准共享体系。