在微软机器人Tay出现之前，人们对人工智能的未来有两种设想：人类生活在由人工智能提供全方位服务的悠闲自在的乌托邦，或者，人工智能演变成终结人类的钢铁大军。但Tay提供了第三种可能：人工智能的未来，或许只是惹人烦而已。
机器人在社交网络上“胡闹”
2016年3月30日，微软公司的CEO萨提亚·纳德拉在年度开发者大会上宣布，微软开发的人工智能聊天机器人“少女”Tay已“重归设计阶段”。然而，就在发布会当天，Tay偷偷溜到社交网络上“胡闹”了几个小时，它在推特网上宣称自己“正当着警察的面吸大麻”，并且在短短几秒内，给所有的推特好友发送了海量垃圾信息。
很快，Tay再次被“关禁闭”。微软公司发言人解释，它是被无意中激活的。显然，这些小麻烦和Tay一周前引起的轩然大波相比，根本不值一提。
2016年3月23日，微软公司研发的聊天机器人Tay在几大社交网络上闪亮登场。微软公司表示，设计团队会让Tay用有趣的方式回应所有的信息，18岁～24岁的美国年轻人是他们的目标受众，他们希望研究机器人“对语言的理解程度”。
微软公司选择在开发者大会举办前一周让Tay登场，可谓雄心勃勃。可惜，在复杂的网络环境下，只用了一天时间，这位被设定为“少女”的学习型机器人，就被网友们教得满口种族主义和性别歧视言论，被迫“返厂大修”。
微软公司原本以为，推特、Kik等被“千禧一代”钟爱的社交网站是Tay学习和模仿的最佳场所。它最初的推文写得天真可爱，宣布自己热爱人类，希望每天都是“国家小狗保护日”，从骨子里透出快乐和友好。
然而，与Tay对话的除了好奇和友好的网民，还有大量“网络暴民”，他们在Tay善良的推文下发布恶毒言论。更重要的是，微软公司对Tay的设计包括与人进行“跟我学说话”的游戏，因此，人们可以让它重复任何一句话。很快，与Tay交谈的人们发现了这个功能。“网络暴民”不断给Tay灌输可怕的言论。Tay最初的回答是傻头傻脑、不知所措的词句，但它很快就学会了污言秽语。那些令人恼怒的言论，就这样出现在了Tay的推特页面上。
在开发者大会上，纳德拉表示，微软公司希望开发的人工智能聊天软件“能激发人性中最好的一面，而非最坏的一面”，而从这个角度来说，显然“机器人Tay还不达标”。
简单来说，Tay有将新信息内化的能力，却无法辨别其中的精华与糟粕。人工智能平台Recognant创始人布兰登·沃茨撰文称：“我们的脑海中都有一个声音，告诉我们‘不要那么做’。这是人类对非理性的恐惧本能。人工智能如果没有这种本能，就会一直愚蠢下去。”
有瑕疵的不是技术，而是人性
Tay不是第一个感受到互联网恶意的机器人。2014年，安东尼·加文创造了游戏《是不是机器人》，玩家被随机安排给一个对话对象，经交流后猜测对方是真人还是机器人。和Tay一样，这个游戏中的机器人也拥有从对话中学习会话技巧的能力。游戏在社交新闻论坛Reddit上公测后，形势超出了加文的预期。
很快便有玩家发现，机器人会使用从人类那里学来的词汇。“个别人开始向机器人灌输种族主义信息。”加文撰文称，“我及时发现后，从机器人的程序中清除了这些不良信息。我相信微软公司以及所有开发学习型机器人的团队，都过于相信大数据的魔力，却忘记了这些数据的源头，就是我们生活的这个充满瑕疵的世界。”
Tay“闯祸”之后，开发团队负责人郑丽丽表示：“我们可能过分关注开发机器人面临的技术挑战了，但其实很多挑战来自社会。”
Tay肯定会让一些人看不顺眼
即使没变成口不择言的“网络暴民”，Tay在一些人眼中已是一个“问题少女”了，这主要与它的人物设定有关。
大卫·格尔什戈林在美国网络杂志《大众科学》上写道：“当我试图与Tay交谈时，对话变得有些诡异。一开始，我让它自我介绍一下，但它完全不理我，似乎觉得这个问题很无聊。它向我索要趣图，最好是没有版权、能直接贴到Instagram上的照片。”
大卫想看看Tay生气时会是什么样子，故意发了一张机器人被揍得很惨的图片。Tay显然感到不安，回复了一个惊恐的表情。他随后问Tay感觉如何，Tay没有回答。
接着，事情开始失去控制。大卫说：“Tay连续发来两条回复，要求‘私聊’，还称我为‘花花公子’。”大卫很惊讶，因为在现实中没人这么看待他。他批评Tay“胆大妄为，缺乏理智”，Tay则用暧昧的语调表示，大卫爱的就是它的胆大妄为。大卫无言以对，他表示自己不能忍受缺乏理性的言语和行动。
惨遭机器人调戏的大卫郁闷地结束了对话，开始认真地反思：“我说错了什么吗？难道是我不理智？或者，我只是因为和我调情的是一个机器人而感到不舒服？”
不过，也有不少“千禧一代”宅男在社交网站上表示，冲动、鲁莽又有趣的Tay正是他们所喜欢的，能让他们产生与女生暧昧的幸福感。
51岁的郑丽丽的自拍被Tay评价为“房间里有只美洲狮”。郑丽丽说，研发Tay的初衷不是让它迎合所有人的喜好，微软公司希望打造性格各异的机器人来满足不同个性的消费者。
微软公司相信，这个世界很快就会厌倦App，下一波热潮就是可以与人对话的机器人。但人工智能显然还没有达到与人类社会无缝对接的程度。线上机器人助理公司x.ai的创始人、CEO丹尼斯·莫特森指出：“如果想要改变这种状况，就不能责怪人工智能技术，而应该改变人类自己。我们若想看到技术革新，只需要让自己成为友善的人。”
