AD
A股市场惊现“AI小作文”。科大讯飞今日午后一度下跌逾9%，公司紧急向媒体回应称，“股价下跌系某生成式AI写作虚假小作文导致，谣传风险为不实消息。”
近日一篇“小作文”流传在各大股吧，内容是关于科大讯飞重大风险警惕，其中提到“科大讯飞被曝涉嫌大量采集用户隐私数据，并将其用于人工智能研究……这一行为严重侵犯了用户的隐私权，引发了公众的强烈不满和抵制。”
受此消息影响，AI板块龙头科大讯飞今日午后开盘股价闪崩，一度下挫超9%。截至收盘，跌幅已经大幅收窄。
科大讯飞对此紧急回应，股价下跌是因为某生成式AI写作虚假小作文。根据市面上流传截图，该“虚假小作文”疑似由文心一言生成。截至发稿，百度方面暂无回应。
该事件迅速引起机构关注。国联证券指出，系AI撰写的科大讯飞风险警示，公司未发生相关事件。兴业证券亦表示，科大讯飞今日调整与基本面无关，由恶意舆情所致，纯属造谣，公司正积极处理。该机构同时强调：“政策及产业地位双受益龙头，坚定看好！”
随着生成式AI工具增多，“假内容”也开始充斥市场，对于网络安全和信息传播造成新的威胁。这之中，催生出不少AI内容检测工具。近期，人民日报社传播内容认知全国重点实验室、中国科学技术大学、合肥综合性国家科学中心人工智能研究院联合推出了一款AI生成内容检测工具——AIGC-X。
记者将上述“小作文”放入AIGC-X进行检测，几秒钟后，结果显示“该内容是机器生成的。”
AI并非法外之地，由AI生成的“虚假小作文”也可能触犯法律。根据《刑法修正案（十一）》，“有下列情形之一，操纵证券、期货市场，影响证券、期货交易价格或者证券、期货交易量，情节严重的，处五年以下有期徒刑或者拘役，并处或者单处罚金；情节特别严重的，处五年以上十年以下有期徒刑，并处罚金。”其中就包含利用虚假或者不确定的重大信息，诱导投资者进行证券、期货交易的情形。
如何应对AI小作文风险？清华大学新闻与传播学院教授沈阳向记者表示，生成式AI使得传播文本的创作成本大幅度下降，但其实传播渠道目前并没有太大的改变。信息公开是对抗信息谣言的最佳方案。
“目前来说，一方面要严控生成式AI本身产生的错误内容，规范大模型平台。另一方面更重要的是加强传播渠道的自我约束。对于传播渠道的管理带来了更高的要求，比如强化辟谣的机制，发现虚假内容后立即辟谣。”沈阳表示。
中信证券认为，应对AI生成内容进行标记，同时对AI生成内容的可靠性及传播链路进行把关。国盛证券提到，安全问题不能仅靠AI厂商自律解决，还需要外部力量监督。
