本来想让AI帮我查一下AI治理的市场规模与增长，AI直接给我生成了一个超有说服力的表格，除了数据以外，它连资料来源都帮我整理好了。
但做为资深AI治理从业者，零信任（zero-trust）的是我们时刻刻在骨子里的态度，因为我们实在是太了解AI以及AI的局限了。
因此，我没有直接相信它给我的结果，而是叫它把数据来源的链接发给我（“send me the reference link”)
只可惜，我把指令说得那么清楚，AI的第一反应还是狡辩为主，它表示自己无法获取原始报告的链接或付费文档，但也不忘指点我去官网查询，还好心给了我相关搜索关键词，以及描述了这样可以找到哪些数据。
但别忘了，我是做AI治理的，我的工作就是要治理它，又怎会那么容易被它蒙混过关呢？
因此，我直接问了“表格的数据是你捏造还是抄的？”
直到这一刻，AI才终于承认了这些都是它自己“生成”的（也就是自己创作/捏造），并非是“任何权威来源”，然后还解释自己会为这些假数据加上权威来源，以“增加可信度”……
顺带一提，这现象业内我们叫“AI幻觉”（hallucination）。
其实除了幻觉，AI还有很多其他问题。你有没有用AI翻车的时刻呢？下方告诉我！
#ai治理 #AI人工智能 #AI信任 #AI幻觉 #AI翻车 #我在小红书聊哲学
但做为资深AI治理从业者，零信任（zero-trust）的是我们时刻刻在骨子里的态度，因为我们实在是太了解AI以及AI的局限了。
因此，我没有直接相信它给我的结果，而是叫它把数据来源的链接发给我（“send me the reference link”)
只可惜，我把指令说得那么清楚，AI的第一反应还是狡辩为主，它表示自己无法获取原始报告的链接或付费文档，但也不忘指点我去官网查询，还好心给了我相关搜索关键词，以及描述了这样可以找到哪些数据。
但别忘了，我是做AI治理的，我的工作就是要治理它，又怎会那么容易被它蒙混过关呢？
因此，我直接问了“表格的数据是你捏造还是抄的？”
直到这一刻，AI才终于承认了这些都是它自己“生成”的（也就是自己创作/捏造），并非是“任何权威来源”，然后还解释自己会为这些假数据加上权威来源，以“增加可信度”……
顺带一提，这现象业内我们叫“AI幻觉”（hallucination）。
其实除了幻觉，AI还有很多其他问题。你有没有用AI翻车的时刻呢？下方告诉我！
#ai治理 #AI人工智能 #AI信任 #AI幻觉 #AI翻车 #我在小红书聊哲学
