科学网—什么样的AI产品会更受用户欢迎？

精选

已有 287 次阅读

2024-12-15 08:48

| 系统分类: 科研笔记

希望这些思考有助于你更好地理解 AI 产品设计的方向和意义。

会议 我来到珠海，参加第五届数据智能与知识服务研讨会。前天下午是论文写作培训，昨天是主会报告。一天半灌下来，真的是大开眼界。

当然了，爱问问题的王老师，也少不得提问。我特别喜欢线下交流，总能因为问答环节而获益。例如昨天的圆桌论坛，我就直接问了个师生编程课「AI 魔法对轰」产生的深入思考问题 —— 如果 AI 编程真的超过了人类开发工程师中位数水平，那么学编程语言的意义究竟是什么。这个问题很有意思，有空咱们再聊。

除了提问之外，我还爱瞎琢磨。明明各位专家探讨的都是 AI 助力科研攻关的大事，我的脑子却时常溜号，因为我从不同专家的发言中，突然看到了一个清晰的脉络，也就是从用户的 真需求 来说，AI 产品应该具备哪些必要特性。

所以今天咱们先就这个问题来聊聊。如果你开发 AI 产品，希望对你能有帮助；如果你是个 AI 用户，欢迎就自己的需求来补充。

我觉得，要想让你的 AI 产品受用户喜欢，有三个核心点要把握：

第一，帮助用户降低行动与决策的难度；

第二，让用户对 AI 的结果产生足够的信任；

第三，为用户提供 “半成品” 而不是完全成品。

下面一个个来说。

难度 先来看看第一个点 —— 降低决策和行动的难度。

顾东晓教授曾举过一个医疗案例：一位病人有一种复杂症状，可能对应两种完全不同的疾病。第一种情况需要立刻手术，但手术后很可能瘫痪；第二种则无需马上手术，只要静养，待成熟时机再动手术，瘫痪风险就会大大降低。

在面对这种症状时，医生要快速判断患者属于哪种情况。许多人因为误诊，把属于第二种的患者当作第一种来处理，导致严重后果。也有人因为错失时机而延误了手术，结果更糟。

那么医生该如何判断呢？

有经验的医生会回顾过去的病例，因为以前积累的诊疗结果对区分这两种疾病很关键。比如，有位患者由于有完整的病历记录，医生明确判断他是第二种情况，后来术后恢复很顺利。

但这只是一个个例。在现实中，许多疑难杂症并不是所有医院都能处理，因为有些医生十年难遇一次复杂案例。而在某些专门医院里，这类病例很常见，医生见多识广，因此能更从容地应对。

目前，一些学者在尝试整合各地的病例库，并训练大型 AI 模型。所谓大模型，可以理解为用大量数据和案例训练出来的智能系统，就像一个经验非常丰富的 “大专家”。通过数据整合，即使是稀有案例也能达到足够数量，帮助大模型从中学习，变得更有判断力。

这样一来，当医生使用这个模型时，它能提供更完整的信息支持。医生就不必在茫然中摸索，而是像拿到一份全局地图一样，轻松找到方向。这会让医生在决策和行动时变得更简单，从而提升他们对 AI 的满意度。

其实这种情况不只在医疗领域适用。在科研中，年轻研究人员如果在一个高水平平台或顶尖团队中工作，就能轻松获得高维度的信息。相比之下，一个独自在资源匮乏的环境中摸索的人，需要投入大量时间和精力去收集信息，做决策难度自然更高。这时如果有一个 AI 系统能提前整合科研领域前沿关键信息，就像为你提供地图和导航，那你的决策就会简单很多。这不但能减少你的心理负担，还能提高工作和研究的效率。就像拥有一张清晰的路线图，你只需顺着方向走即可，而无需在迷雾中不断试错。

信任 再说第二点：用户对 AI 结果要有足够的信任。在 AI 领域，我们一直强调 “可解释性”，意思是 AI 的决策过程要让人看得明白、能理解。

有些人以为可解释性只是用可视化手段展示 AI 的关注点，但在一些关键领域（比如医疗）这种方式不够有用。黄正行教授指出，在医疗中真正的可解释性是把具体病例的数据和通用医学知识关联起来。换句话说，不只是给出症状描述，而是要解释这些症状背后的医学机理，比如基因因素或环境影响。这样，医生能理解疾病的来龙去脉，而不仅仅看到一堆无意义的描述。

如果 AI 能把病例变成可用机制来解释，让医生清楚疾病产生的原因、演化方式以及治疗手段背后的逻辑，那么医生就会信任 AI 的判断 —— 这比在每个词上标注 “注意力权重” 更有说服力。

毕竟当前还是人类来负责最终决策，如果 AI 的建议缺乏可信的理由，人类很难盲目采纳。因此，真正的可解释性就像给出一套可验证的原因和机制，让人知道 “为什么会这样”。

虽然实现这种可解释性很难，但这是 AI 产品想在竞争中获胜必须面对的挑战。这也让我们重新认识可解释性的价值。

半成品 第三个点是提供 “半成品” 而不是 “成品”。这听起来是不是有些反直觉？

很多人觉得 AI 应该端到端解决所有问题。但停下来，请想想用户的感受，尤其是像医生这样的专业人员。

如果 AI 把一切都做好了，不留给医生决策空间，医生会觉得自己被 “架空” 了，不仅失去参与感，也失去成就感。

我们希望的是，AI 给出一个完整的情况图景和几个可选方案，让用户来决定下一步。这种 “半成品” 模式，让用户觉得自己在参与决策过程。这就像导航软件告诉你几条路线，你来选择走哪条。即使 AI 在每个路口给出建议，但最终选择权仍在用户手中，这样用户就会有投入感，并认可这个系统的价值。

对企业和机构来说，这种方式也更容易让内部人员接受，因为他们感到专业性没有被削弱。最终，这种模式会让用户觉得自己是司令官，AI 是参谋，而不是被 AI 取代的机械操作员。

当然，如果你的系统用户目标就是机械制造低水平内容来灌水，则无需考虑该原则。不过实话实说，做这样的系统，可能会降低你的事业成就感。不是吗？

小结 让我们把上述三条特性总结一下：

优秀的 AI 产品能帮忙降低决策难度，让用户更轻松地找到方向。它还得让人理解背后的逻辑，产生足够的信任，而不仅仅是神秘的黑箱。最后，AI 要留下用户发挥的空间，提供 “半成品” 而非包办一切的 “成品”。

你可以想一想，你更愿意当那个有清晰地图和导航的人，还是在迷雾中乱撞的人？你更想听到一个能解释原因的建议，还是一个无法理解的回答？你希望被提供选项、参与决策，还是被全程代劳却缺乏存在感？希望这些思考有助于你更好地理解 AI 产品设计的方向和意义。

我这个话痨，本来还想多说一些。不过今天还有重任在肩，先去开会了，哈哈。

如果有新的表达冲动，我再和你分享。

祝 AI 产品设计成功！

如果你觉得本文有用，请 点击文章底部的「推荐到博客首页」按钮 。

如果本文可能对你的朋友有帮助，请 转发 给他们。

欢迎 关注 我的专栏 ，以便及时收到后续的更新内容。

延伸阅读 如何用最小成本打造 AI 第二大脑？

如何提升 AI 学术检索的质量？

强化微调 (RFT) 如何助你打造更聪明的专业 AI 模型？

如何用 AI 练英语口语？

如何有效沟通你的机器学习结果？

转载本文请联系原作者获取授权，同时请注明本文来自王树义科学网博客。 链接地址： https://blog.sciencenet.cn/blog-377709-1464353.html

上一篇： 强化微调 (RFT) 如何助你打造更聪明的专业 AI 模型？

主题：难度|什么|AI产品会更受用户欢迎