科幻小说家艾萨克·阿西莫夫曾写过用来控制智能机器的“机器人三定律”：机器人不得伤害人类，或因不作为使人类受到伤害。除非违背第1定律，机器人必须服从人类的命令。除非违背第1及第2定律，机器人必须保护自己。科幻情节变成现实已是常有的事。英国皇家学会和英国国家学术院发布的一份报告指出，要管理这些今后跟我们生活在一起的智能机器，不需要三定律，只要一条首要原则就够了：“促进人类繁荣发展。” 
英国皇家学会科学政策咨询小组奥托琳·莱瑟教授指出，人类繁荣是管理智能系统的关键。她告诉bbc：“人类繁荣这个词汇压缩表达了我们想说的话。人与社会的繁荣应该被放在第1位，我们认为阿西莫夫所说的三定律其实就可以总结为这一句话。”
这份报告指出，我们需要一个新的体系来确保智能机器服务于人类，而非控制人类。报告提到，民主监督制度对于规范自主学习系统的发展至关重要。如果没有民主监督制度，这些智能机器可能会造成潜在危险。
这并不是在警告我们机器会奴役人类，至少现在不是。但当这些能独立学习并作出决策的系统出现在家中以及一系列商业和公共服务场所时，它们便有机会做出很多不好的事情。
同时，该报告还呼吁人们对机器保持兴趣。游说团体techuk的副总经理安东尼·沃克是该报告的作者之一。他认为，这些智能系统的发展不能仅靠技术标准来管理，还应被道德和民主价值观所约束。他说：“这些技术会带来很多好处，但前提是公众必须对它们有信心，相信这些系统的构建是经过全面考虑并且管理得当的。”
阿西莫夫时代
这份报告提出了一种全新的管理方法。它建议专家组成一个“管理机构”，同时利益相关各方建立一个道德框架来约束人工智能的发展。
报告提出条四个高级原则，以促进人类繁荣：
保护个人和集体权益确保透明度、责任感和包容性寻求良好实践，在成败中学习深化现存民主治理模式阿西莫夫时代已经到来。我们迫切需要一种管理机器的新方法。
例如，自动化汽车的发展让我们思考，应如何优先考虑人类安全。当车辆必须在乘客和行人的安全中取其一时，又会发生什么？事故发生时，还有一个责任归属的问题。到底是车主的错，还是机器的错呢？
另一个例子是个性化智能教学系统。这类教学系统可以识别学生的强项和弱项，然后进行针对性教学。如果没有合适的指导原则，这样的自主学习系统能进行教学吗？我们怎样才能确保机器对孩子的教学方法让自己满意呢？正如我们也很担心教师的教学方法一样。
这些问题并不能依靠开发系统的技术公司来解决。这是我们所有人都应该考虑的问题。正是由于这个原因，报告才指出，公司不能以商业机密为缘由隐瞒智能系统的各种细节。只有把这些细节公之于众，出现问题时人们才能及时发现和改正。
现行的智能系统管理法规都很关注个人数据。但是，这些法规对于我们日常泄露的个人数据没有任何保障。个人信息的泄露包括对通讯设备的跟踪，购物偏好和上网偏好等。
有些系统可以将上述公共数据整合在一起得到个人资料。这些资料可能被保险公司用于设定保险费，或被雇主用来评估员工是否适合某类工作。
确实，这些系统可以带来许多好处，但如果不加以控制，我们的很多人生机遇都会被机器所控制。
莱瑟教授指出，关键在于管理方法必须具有针对性。她告诉bbc：“预测亚马逊该为人们推荐哪些书的算法，与医学情境下诊断的算法是非常不同的。所以，没有针对性的整体规划型算法是不明智的。”
英国保守党在其宣言中承诺发布数字宪章，并创建数据使用和伦理会。英国数据部马特·汉考克告诉bbc，正确规范社会对数据的使用是“至关重要”的。
他说：“数据管理，以及高效并合乎道德地使用数据，对未来的经济和社会发展十分重要。我们正致力于继续与行业紧密合作，以取得一定的成果。”
从根本上说，智能系统只有在取得人类信任并受到监管的情况下才会飞速发展。若是未能满足这一条件，智能系统促进人类繁荣的巨大潜力永远都无法完全实现。

---