研究发现，GPT-4可信度更高但也更易被“诈骗”

据最新一期《科学》杂志刊发的论文，研究人员发现，人工智能语言模型GPT-4在回答特定类型的问题时，可能会比之前人们认为的更可信。但同时，研究人员也发现，GPT-4在回答特定类型的问题时也更易受到“欺骗”。
该论文的主要作者、澳大利亚弗林德斯大学的认知科学家尼科尔·多德曼解释道：“虽然GPT-4在许多方面都比之前的模型更优秀，但我们也发现了一种新的‘欺骗’方法，即通过‘插入’不相关的单词来‘愚弄’模型。”
多德曼指出，虽然他们只在10%的问题中观察到这种行为，但这一发现仍然引发了人们对AI系统安全性的担忧。如果不能对AI系统的缺陷有足够的了解，人类就可能在未来盲目地依赖这些系统，从而引发各种问题。
这项研究于2022年8月进行，涵盖了AI领域的许多问题，从自然语言处理到计算机科学等。在研究中，研究人员要求AI系统对每个问题回答“是”或“否”，然后由人类评估答案的可信度。
多德曼表示，他们正在开发新的工具和技术，以帮助人类更好地理解和信任AI的答案。同时，他们也呼吁其他研究人员共同努力，以更好地理解和解决AI系统的潜在缺陷。
总之，虽然GPT-4在某些方面表现出色，但它仍然存在一些局限性。在未来的研究和应用中，我们需要更加深入地了解和掌握GPT-4的特点和缺陷，以确保其安全、可靠、有效地为人类服务。