为什么AI不能成为最好的编程伙伴

Marcel den Hartog, CGEIT, Trend & 荷兰Enable U的创新专家
作者: Marcel den Hartog, CGEIT, Trend & 荷兰Enable U的创新专家
发表日期: 2024年3月15日

这太简单了。, ChatGPT, 克劳德。, 副驾驶), 生成一些做ABC的Java代码, 请检查此代码是否有不一致之处, 根据以下信息生成一个报价, 请生成以下40页报告的摘要.”

很快,不管有没有微调,你都会得到你想要的. 因为人们“感觉”好像他们在与某种社交和理解的东西进行个人对话(记住,它们都被开发成聊天机器人)。, 人们对生成式人工智能的提问几乎没有任何障碍. 人们经常忘记互联网上的慢板“你用你的信息支付”.“所以,我做了一个测试.

测试1:AI使用即时反馈

我以用户A的身份登录,询问了Bard和ChatGPT我公司的目标垂直市场是什么. 我直接从我们的网站“政府、教育和财政”上得到了答案. 然后我问他,如果我们将医疗保健作为一个额外的垂直业务,我们的战略应该是什么. 在随后的对话中,两种AI解决方案都为我们创造了一个不错的市场策略.

然后,我让一位同事登录并重复我最初问的问题. 突然, 医疗保健不仅仅被标记为一个特别有趣的垂直领域, 这是我们的首选垂直目标! Bard使用我之前提供的信息立即为另一个用户生成响应.

测试2:AI不知道“机密”一词

政府的战略文件往往冗长乏味. 我怀疑这些报告中有许多是为了创建可读的四页摘要而上传的. 我问巴德, ChatGPT和副驾驶的问题是:请深入介绍一下XXXXXX(荷兰的一个大城市)未来五年的IT战略。.

在尝试了四个不同的大城市名字之后, 巴德的反馈很长,有一份报告的名称和许多IT战略的细节. 它甚至直接引用了报告中的内容. xxx市恰好是我们的一个特别好的客户, 但我们不熟悉这份报告. 在他们的网站上找不到这份报告,即使在谷歌上进行了深入搜索,我也找不到任何关于这份报告的参考资料. 这份带有“机密”印章的报告只是在用户和人工智能应用程序之间的“个人”对话中上传的.

 关键的外卖

  • 大多数人都没有意识到他们输入公共人工智能应用程序的信息, 像ChatGPT, 巴德和其他人, 一旦他们按下回车键就进入公共领域了吗. “当产品或服务是免费的,你支付你的信息.”
  • 人工智能被大肆宣传,所以每个人都会尝试使用它,有时会产生惊人的效果. 让组织意识到使用公共人工智能工具所涉及的风险并不容易.
  • 讲故事和实际的例子是接触领导者的唯一途径, 当经理和员工警告使用这种流行工具的风险时. “如果每个人都在使用它,我们为什么要对它施加任何限制?!所以,问这样的问题:
    • 你愿意把这些信息告诉你在机场候机厅看到的陌生人吗? 如果答案是肯定的,那就可以把它喂给人工智能.
    • 如果你想优化IP栈中的代码片段,不要把它交给AI.
    • 如果你的五年战略计划可以在你最大竞争对手总部的接待处大声朗读, 让人工智能创建一个四页的摘要是可以的.
    • 如果你让人工智能给出报价, 定价, 您上传的保修和其他重要信息可以被其他人轻松检索.
    • HR用来为c级经理创建职位描述的信息是保密的吗? 如果是,请不要上传到公共AI解决方案中.
    • 如果你想让人工智能生成的代码说明描述了你的产品将澳门赌场官方软件, 你可能需要重新考虑是否要使用人工智能作为你的编程伙伴.
    • 这样的例子不胜枚举.

我做的两个测试很简单, 我相信你能想到一些与你的公司相关的变化. 但请记住, 当你警告人们一些非常流行的现代科技的影响, 他们可能会感到受到限制和攻击. 人工智能以巨大的爆炸式进入世界,并有许多有益的用途. 我们必须, 然而, 确保我们在使用它时不会失去对机密和有价值数据的控制,这些数据使我们的公司独特而成功.

额外的资源