AI中国网 https://www.cnaiplus.com
今年以来，ChatGPT等人工智能通用大模型的飞速发展引起了对AI安全风险问题的高度关注。在2023年北京智源大会上，国内外多位人工智能专家热议了AI安全伦理和风险防范问题。 OpenAI联合创始人山姆·阿尔特曼呼吁为AI建立“安全护栏”，以更好地为人类服务。北京智源人工智能研究院院长黄铁军表示随着出现了“涌现”能力，人工智能大模型的不可预测性确实带来了巨大的挑战。被誉为“AI教父”的杰弗里·辛顿也在智源大会上再次表达了对人工智能技术风险的担忧。 AI应用越来越广泛，生成内容的真实性和准确性是最主要的风险。OpenAI发布ChatGPT时指出，由于使用的训练数据和方法，ChatGPT有时会写出听起来有道理但不正确或无意义的回答。无论是GPT-4还是其他通用大语言模型，均存在这样的“AI幻觉”。 在医疗、自动驾驶等领域，这些幻觉是严重的安全问题。医疗行业的诊断、治疗要求高度准确性，通用大语言模型在这方面缺乏深入的医疗专业知识和经验，存在天然缺陷。因此，医疗行业需要更高质量、更专业的垂类模型，提供更精准的回答，消除大模型幻觉。 然而，由于医疗行业的复杂性，构建医疗垂直领域大语言模型的知识门槛更高，需要AI技术基础和足够的专业医疗知识储备。国内医疗AI头部企业医渡科技正在研发医疗垂直领域的大语言模型。 根据公开资料，医渡科技在医疗AI领域已经深耕多年，通过AI技术赋能监管机构、医院、药企、险企和患者，自主研发的“医疗智能大脑”YiduCore拥有强大的数据处理能力，积累了大量的医学知识和洞见，内部人才团队80%以上具备医学或人工智能背景，横跨技术和医学的交叉性人才近100名。医渡科技有足够的研发医疗垂直领域大模型的医疗数据、知识壁垒，以及核心AI技术和交叉性人才储备，有望为医疗AI的发展开启更多想象空间。AI中国网 https://www.cnaiplus.com
本文网址：
