价值观

当AI的深层神经网络根底是由这样睿智且慈悲的灵魂浇灌而成时，不仅模型的训练效率和最终的智能水平应该会大幅提升，其在价值观层面“走偏”的概率在逻辑上也会被降到极低。

这不仅是知识层面的把关，也是智力层面的把关，更是价值观层面的把关。

真正关键的是，要为它建立一个清晰而稳固的知识基础与价值观对齐框架。

简论人工智能的智慧攀登与价值观对齐简论人工智能的智慧攀登与价值观对齐精选

这个工作与当下的伦理学热点：价值对齐主题高度契合，即让人工智能的价值观与人类的价值观相匹配，从而更好地服务于人类。

这与以往的产品市场分配模式是完全不一样的，因为那些传统产品很少涉及价值观因素，它只关注产品的性价比，比如农产品与众多的工业制品等，而人工智能产品则与内部嵌入的价值观深度绑定，一旦价值观落后其产品很难有市场，如拥有众多潜在消费者的智能心理治疗领域。

这与以往的产品市场分配模式是完全不一样的，因为那些传统产品很少涉及价值观因素，它只关注产品的性价比，比如农产品与众多的工业制品等，而人工智能产品则与内部嵌入的价值观深度绑定，一旦价值观落后其产品很难有市场，如拥有众多潜在消费者的智能心理治疗领域。