在做出道德决策时，人们通常认为人类是最可靠的决策者。但是，当机器人面临艰难选择，需要它违抗人类的直接命令时，会发生什么？在这些情况下，由于情况紧急，机器人能够在没有人类监督的情况下采取行动非常重要。
人机交互系统的伦理考量取决于机器
人的编程目的。例如，如果机器人是专门为清洁或洗衣等家务而设计的，那么它的伦理考量可能仅限于不伤害人类或尊重隐私等。但如果机器人用于军事目的，它的伦理考量可能会复杂得多。它可能必须决定是否服从可能导致平民受伤或死亡的命令。
该项目的目标是提供一种众包人类意见的方法，以了解机器在某些道德困境下应该做什么。这使我们能够从人类那里收集数据，了解他们期望自主机器人在不同情况下如何表现。罗伯特·莫纳克认为，我们需要训练具有类似人类敏感性的自主机器人，以便它们能够在困难情况下做出符合道德的决策。我们可以通过网络表单从人类那里收集这些数据，然后将这些信息用作机器学习算法的基础。
在监督式主动学习系统中，人类负责设置算 电话号码资源 法要学习的训练数据；这样可以获得反馈和更准确的结果。本研究探讨了人类在环系统中必须做出的道德考虑。这些场景嵌入在具有各种人际关系的社会经济背景中，这需要自主机器人根据情感倾向和道德考虑做出决策。
人类在环系统中存在道德方面的
考虑，我们必须意识到这一点，这 采用集成方法的翻译工作流程管理 样我们才能创造出在困难情况下也能采取道德行为的机器人。
您如何确保该系统公平、公正？
有很多方法可以确保人机交互系统公平公正。一种方法是使用透明且偏见较少的机器学习算法。另一种方法是让人类操作员纠正系统的预测并避免任何失误。此外，人类也会犯错或持有不同的意见，而机器学习系统经过训练可以处理这些问题。最近，深度神经网络的可解释性取得了进展。
我们的想法是，随着机器在自主决策方面的能力越来越强，人类将需要更多地参与其中，以确保这些决策的准确性。
一个原因是机器通常很难理解人类决策的复杂性。另一个原因是人类可以帮助纠正机器所犯的错误，并确保算法不会无意中偏向某些人群。通过让人类参与其中，我们可以确保我们的机器学习算法产生准确的结果，并且不会歧视任何人。
结论
目前人工智能的所有进步似乎都是通过使用人类计算能力来实现的，目的是发展。然而，这个系统并不是万无一失的，因此只能在一定的范围内应用。这些直接的解决方案 (HITL) 将带来稳步扩大的收益 线数据库 和新的改进方法。程序的更新和运行更加顺畅，最终将创造和改善其最初设计的结果。
机器学习依赖于正确标记和标注的数据。经过足够的训练，机器可以学会自己分析和理解复杂的数据集。然而，有时需要人类介入并提供指导。这就是人类参与其中的地方：通过提供反馈和纠正，人类帮助机器正确地从数据中学习。此外，人类的参与可以确保用于机器学习的数据准确无误。阿西莫夫有句名言：