在本月2日FDA对Purolea Cosmetics Lab的检查中，发现其存在不当使用AI的情况，并将此纳入警告信中的第3个缺陷项中. 本文节选了警告信中有关AI不当使用的描述。

3. Your firm’s quality control unit failed to exercise its responsibility to ensure drug products manufactured are in compliance with CGMP and meet established specifications for identity, strength, quality, and purity (21 CFR 211.22).

3.   贵公司的质量控制部门未能履行其职责以确保所生产的药品符合CGMP要求，并符合既定的鉴别、含量、质量和纯度标准（21 CFR 211.22）。

贵公司的质量部门（QU）未能充分监督药品生产操作。例如，质量部门未能确保：

*   建立或遵循相关规程（21 CFR 211.22(d)）

*   在药品放行前审核批记录（21 CFR 211.22(a)）

*   建立充分的生产和工艺控制（21 CFR 211.100(a)）

贵公司的质量体系不充分。关于如何实施质量体系和风险管理方法以满足CGMP法规（21 CFR parts 210和211）要求，请参阅FDA指南文件《药品CGMP法规的质量体系方法》，网址：https://www.fda.gov/media/71023/download。

药品生产中人工智能的不当使用

在FDA检查贵公司药品生产设施期间，贵公司向FDA调查员表示，你们使用了人工智能（AI）工具(b)(4)来帮助符合FDA法规。具体而言，贵公司使用AI创建药品质量标准、规程和主生产或检验记录，以试图符合FDA要求。

如果使用AI作为文件创建的辅助工具，贵公司必须审核AI生成的文件，以确保其准确且确实符合CGMP。贵公司未能做到这一点，违反了21 CFR 211.22(c)。在检查中，也发现了贵公司在药品生产操作中过度依赖人工智能。例如，FDA调查员发现贵公司在药品销售前未进行工艺验证（根据21 CFR 211.100要求），并告知了贵公司此要求。贵公司回复称，不知道此项法规要求，因为所使用的AI工具(b)(4)从未告知你们有此要求。

我们注意到贵公司已停止药品生产。如果贵公司计划恢复药品生产，并使用AI协助CGMP相关活动，例如制定规程和质量标准，任何AI工具的输出结果或建议均必须由贵公司质量部门授权的人员根据FD&C法案第501(a)(2)(B)条进行审核和批准。另见21 CFR 211.22及21 CFR 211.100。

AI作为生产力工具，与其它自动化工具一样，在GMP环境中使用，都需要经过确认，无论是通过验证的方式，还是通过人工审核的方式进行确认，以确保其代替人类开展的活动符合GMP要求。制药企业始终是药品质量保证的第一责任人，如何正确利用AI工具，是一个新的课题，但绝不能完全依赖AI，出了问题后让AI背锅。

点击阅读原文查看FDA警告信原文内容。