情报局开讲:

澳洲工业和科学部长Ed Husic本周表示,政府可能在被视为高风险的领域实施对人工智能的禁令。



有报告显示,可通过AI生成的内容正大量充斥在议会里,误导公共观点,在议会咨询中被滥用。

“政府意识到这些风险,将加以限制”。

“目前关于版权、隐私和消费者保护方面的法律有欠缺,鉴于人工智能行业的快速发展,政府希望确保一个法律框架符”。

世界多国正在考虑进行全面人工智能立法。

目前,新州、昆州、西澳和塔州的学校已禁止使用ChatGPT。

澳洲国立大学校长表示,人工智能将非常难以监管,普通人可能难以判断哪些信息是真实的。



澳广ABC报道,UNSW大学的中国留学生Jia Li(化名)表示,最近她用了检测人工智能生成内容的程序ZeroGPT。

检查了她一篇大学论文的草稿后,系统说,"论文可能有一半以上是AI撰写的"。

“可这是我自己写的,但它说是AI生成的”。

该程序标记出了一些"她先用中文写出,然后用翻译软件成英文的内容”,以及“她直接用英文写的其它句子”。

该大学的作弊检查工具Turnitin在今年4月起已开始配备检查学生"是否是使用AI工具撰写了作业"的功能。





美国斯坦福大学的一项研究发现,检测AI生成的文本的程序可能会对非英语母语写作者产生偏见。

研究人员将91篇中国学生用英语撰写的论文和88篇美国学生用英语撰写的论文通过7个不同的公开可用的检测工具进行了试验。

结果,61%的中国学生的论文被指称是AI生成的,而美国学生的论文,几乎是0。

研究称,目前许多人工智能检测算法过度依赖对“困惑度”的识别。

英语非母语人士的写作经常被错误地归类为AI生成的,他们一般不会使用那么多“花哨”的词语,还可能使用翻译和语法工具,因此文章的“困惑度”不高,会更频繁地被冤枉。



墨尔本大学的一位中国留学生(Sophie,化名)也说,她最近的一份作业被Turnitin标记为30%可能是AI写的。

她说,她没有使用任何语法、翻译或人工智能文本生成工具来完成作业,大学应该等到该工具能更准确时再使用它来标记可能的不当行为。

“我的许多朋友不得不购买Turnitin来提前检查作业”。

“AI检测工具对我们的学习产生了很大的影响”。

墨尔本大学一位发言人也承认检测工具可能会错误。

“被要求讨论或解释你的论文内容,并不等于已经认定这名学生有学术不端行为的指控”。

UNSW大学也表示,单靠这项检测不会直接得出学生有学术不端行为的结论。它只是触发进一步调查的标志。

墨尔本的迪肯大学则干脆宣布,暂不启用Turnitin的AI检测工具。

该大学数字学习中心主任Trish McCluskey说,我们预计许多澳大利亚大学将学习我们的做法。



《人工智能和学习的未来》一书的作者Stefan Popenici表示,AI检测最棘手的问题之一是,大学 “从一开始就把学生当作潜在的罪犯”。

Charles Darwin大学的博士Popenici说,

“大家都喜欢为一个非常复杂的问题找到迅速的解决方案”。

“我们抱怨学生在走捷径,可然后我们也在走捷径,这不公平”。

Turnitin的首席产品官Annie Chechitelli说,接下来系统会有一次升级,但如果它将写作样本中不到20%的内容标记为AI完成的,那么"假阳性结果"的概率会更高。

“这种情况下,我们会添加一个星号,以提示注意该评分实际上不那么可靠”。

Turnitin亚太地区副总裁James Thorley表示,俺们公司正努力将错误率保持在尽可能低的水平。

"从澳洲学术界收到的大部分反馈都是积极的"。