首先，重要的是要了解技术是如何工作的，以便确切地知道你在用它做什么。
ChatGPT基本上是我们手机上的预测文本系统的一个更强大、更生动的版本，当我们输入时，它会根据从网上收集的大量数据来建议单词来完成一个句子。
他也无法证实他所说的是否属实。
如果你使用聊天机器人编写程序，它会查看代码过去是如何编译的。克里斯蒂安表示，由于代码不断更新以解决安全漏洞，使用聊天机器人编写的代码可能存在漏洞或不安全。
同样，如果您使用ChatGPT写一篇关于经典书籍的文章，机器人可能会构造听起来合理的论点。但是，如果其他人在网上发布了对这本书的错误分析，那可能也会出现在你的文章中。如果你的文章在网上发表，你将助长错误信息的传播。
圣达菲研究所的人工智能研究员梅兰妮·米切尔(Melanie Mitchell)说:“它们可以欺骗我们，让我们以为它们懂得比自己多，这可能会造成问题。”
换句话说，机器人不能独立思考。我都不会数数。
举个例子:当我让ChatGPT写一首关于旧金山寒冷天气的俳句时，我惊呆了。说出音节数错误的句子:
开发ChatGPT的OpenAI公司拒绝就本专栏置评。
同样，由人工智能驱动的照片编辑工具，如Lensa，使用网络上的图像来训练算法。因此，米切尔说，如果女性出现在更性感的环境中，机器就会重现这种偏见。