海外媒体报道称，专门管理互联网内容的初创公司 ActiveFence 宣布，一些用户正在使用这些工具来创建和分发儿童色情内容。产量尚未激增，但在各种受监控的论坛上已经观察到明显的增长。

　　在美国，国家失踪与受虐儿童中心(NCMEC)近日发出警告称，性侵犯者现在正在大规模使用人工智能驱动的生成工具来制作和发布越来越逼真的儿童色情图片。

　　根据 Avi Jager 的说法，这种现象才刚刚开始，很快就会变得更糟。例如，ActiveFence 估计每天有 80000 份与虐待或传播儿童色情照片有关的报告。目前，制作虚假儿童色情图片在美国并不违法，但在英国、加拿大、澳大利亚等多个国家已经违法。