人工智能（AI）正处于推动农业革命的边缘，并帮助应对以可持续方式养活我们不断增长的全球人口的挑战。但研究人员警告说，大规模使用新的人工智能技术会带来巨大的风险，而这些风险并没有被考虑到。
最近发表在《自然-机器智能》杂志上的一项新的风险分析警告说，未来人工智能在农业中的应用会给农场、农民和食品安全带来大量的潜在风险，而这些风险却没有得到充分的理解和重视。
“智能机器管理农场的想法并不是科幻小说。”该论文的第一作者、剑桥大学存在风险研究中心（CSER）的Asaf Tzachor博士说：“大公司已经在开拓下一代自主农业机器人和决策支持系统，它们将取代人类在田间的工作。”
他补充说：“但到目前为止，似乎没有人问过‘快速部署农业人工智能是否有任何风险’的问题。”
作者说，尽管人工智能在改善作物管理和农业生产力方面有着巨大的前景，但必须负责任地解决潜在的风险，并在实验环境中对新技术进行适当的测试，以确保它们是安全的，并能防止意外故障、意外后果和网络攻击。
在他们的研究中，作者提出了一个在负责任地开发农业人工智能时必须考虑的风险目录--以及解决这些风险的方法。在该目录中，他们对网络攻击者可能对使用人工智能的商业农场造成破坏发出了警报，他们通过入侵数据集或关闭喷雾器、自主无人机和机器人收割机。为了防止这种情况，他们建议“白帽黑客”帮助公司在开发阶段发现任何安全故障，这样就可以保护系统免受真正黑客的攻击。
在一个与意外失败有关的场景中，作者建议，一个只为在短期内提供最佳作物产量而编程的人工智能系统可能会忽视实现这一目标的环境后果，导致长期过度使用肥料和土壤侵蚀。为追求高产量而过度使用杀虫剂可能会毒害生态系统；过度使用氮肥会污染土壤和周围的水路。作者建议让应用生态学家参与技术设计过程，以确保避免这些情况的发生。
自主机器可以改善农民的工作条件，减轻他们的体力劳动。但如果没有包容性的技术设计，目前在全球农业中根深蒂固的社会经济不平等现象--包括性别、阶级和种族歧视--将继续存在。
“不考虑劳动力投入的复杂性的专家型人工智能农业系统将忽视，并有可能维持对弱势社区的剥削，”Tzachor警告说。
各种农业机器人和先进的机械，如无人机和传感器，已经被用来收集农作物的信息，支持农民的决策：例如，检测疾病或灌溉不足。而自动驾驶的联合收割机可以在不需要人类操作员的情况下将农作物送入。这种自动化系统的目的是使农业更有效率，节省劳动力成本，优化生产，并尽量减少损失和浪费。这导致了农民收入的增加，以及对农业人工智能的更大依赖。
然而，小规模的种植者耕种了全世界大多数农场，并为所谓的全球南方的大片地区提供食物，他们可能被排除在人工智能相关的利益之外。边缘化、互联网普及率低和数字鸿沟可能会阻碍小农户使用先进技术，扩大商业和自给农户之间的差距。
据估计，有20亿人受到粮食不安全的困扰，包括约6.9亿营养不良和3.4亿儿童患有微量营养素缺乏症，面对气候变化和不断增长的全球人口，人工智能技术和精准农业有望为粮食和营养安全带来巨大好处。
“人工智能正被誉为彻底改变农业的方式。当我们大规模部署这项技术时，我们应该密切考虑潜在的风险，并争取在技术设计的早期就减轻这些风险，”CSER执行主任和新研究的共同作者Seán Ó hÉigeartaigh博士说。