【当聊天机器人被犯罪分子盯上】
当下，以ChatGPT为代表的生成式人工智能类应用火热，有人看到科技方向、有人发掘乐趣、有人寻觅商业价值，但由此带来的风险也不容忽视，你能想到吗？它的“甜言蜜语”轻松就让人坠入爱河。
更隐蔽让你坠入爱河的是“机器人”
AI合成声音、AI一键换脸已不是新鲜事，这些手段从形式上为诈骗类犯罪提供了“外观化”的作案工具，而ChatGPT等自动生成类应用则可以利用强大的语言库、信息检索、数据处理能力，从内容上提供具备思考能力的输出工具，使得诈骗类犯罪更加隐蔽。
以当前盛行的网络情感诈骗类犯罪来说，哪怕是“大汉”冒充“美女”，也还是需要一个人在网络另一端操作、实施诈骗，犯罪分子会用基本成型的“话术”，揣测被害人心理，一步步引诱对方上当。但随着ChatGPT的发展，诈骗团伙完全有可能只依赖“程序”进行诈骗。大数据可以分析出被害人的偏好，以“婚骗”为例，可以摸清当事人的喜好，如喜欢成熟稳重的，还是幽默风趣的，ChatGPT可以根据聊天上下文进行互动，生成的内容看上去真实性很强，它甚至可以生成完整的、“投其所好”的诈骗套路话术，比真人回应更能使被害人相信遇到了“真爱”。
今年2月，一家安全技术公司用AI生成过一封情书，并将它发送给全球5000位用户。结果显示，在已知这封情书有可能是由人工智能生成之后，依旧有33%的受访者愿意相信这些情话出自人类手笔，而坚信情书由AI创作的受访者占比仅为31%，其余36%的参与者则表示无法区分情书的创作者到底是人还是机器。从这些情况可以看出，在AI技术加入下，骗子们正变得比以往任何时候都更容易得逞。
【聊天机器人系统是什么】
聊天机器人是一个用来模拟人类对话或聊天的程序。基于自然语言处理和计算机视觉技术，通过将文本、语音、图像和视频等多种信息融合起来进行分析处理，实现对用户自然语言的理解并给出相应回复的技术。通过简单训练即可生成具有自然语言理解能力的对话系统。
【聊天机器人系统有什么用】
1、电话客服
当前人工客服工作压力大、任务繁重，这对于用户体验造成了很大影响。而聊天机器人可以通过主动发送信息、智能回答等方式帮助用户快速解决问题。
2、情感关怀
根据客户对服务需求的不同，聊天机器人还可以主动为客户提供个性化服务。比如，客户在生活中遇到困惑或问题时就会来咨询服务机器人来寻求帮助，从而提升用户体验。
3、智能客服
自动回复功能是许多聊天机器人系统的主打功能之一。比如：今日头条推荐的智能客服系统利用人工与人工智能技术相结合实现用户自动提问，然后智能回复给用户建议或者直接帮助用户解决问题的功能。当然聊天机器人也可以通过自动回复功能帮助企业降低客服成本、提升效率等目的。
4、信息检索与咨询
通过提供基本的语义理解和答案检索服务，让机器直接为用户解答问题，从而替代人工进行信息查询与回复工作。目前部分公司已经开发了这项服务。比如百度就推出了“度秘”智能聊天服务助手。
5、智能营销
聊天机器人可以利用AI技术向用户进行个性化消息推送，唤醒沉睡的用户，额外带来10%以上的销售订单。
