位于江苏南京的中国药科大学最近火了，原因是这所学校在教室使用了人脸识别系统。学生是否认真听讲、课堂上是否抬头低头、抬头低头了几次、抬头低头了多长时间、低头是否在玩手机、是否闭眼打瞌睡……都逃不过这个人脸识别系统的“法眼”。

无独有偶，上个月上海一所小学将人脸识别带入校园，对学生和教师进行监控。系统可自动检测到学生举手、站立、坐姿不端等行为，通过记录分析形成对课堂效果的总体评价，与中国药科大学使用的人脸识别教室有“异曲同工之妙”。

尽管AI的出现让校园管理便利了很多，但眼下如同科幻片中的景象依然令人不寒而栗。最先进的科技与人性相遇，擦碰出诡异的火花。

引入科技改进管理本无可厚非，但分寸的拿捏却是一门大学问。而用AI监控校园，将学生尽在掌握中，显然已越过技术与人性的边界，伤及了人的权利和情感。

对于AI的使用，许多国家和地区都极为审慎。今年5月，旧金山成为美国第一个禁止面部识别监控的城市。一个月后，美国国会两党在一场国会听证会上正式讨论了对执法部门使用面部识别软件的担忧。两党一致认为面部识别软件有侵犯公民隐私权和抗议权的隐忧，寻求立法暂停此类工具的使用。此外，一些科技巨头在技术的使用上也趋于谨慎，今年6月，微软就删除了包含1000万张人脸图像的全球最大公开面部识别数据库。

最近，一款名叫ZAO的AI换脸App突然火爆全网，但随后便陷入了涉嫌侵犯个人隐私的舆论漩涡。飞速发展的AI技术势必与人类的生活产生越来越多的交集，但如何厘清技术与人类权利的边界，这是一个问题。

进一步说，AI技术的背后还是“人”。某种意义上，技术的牙齿显得过于锋利，不过是人性中某些因子的延伸，而若不及时加以控制，它们的面目会更加狰狞——这也是为什么AI闯入校园令人不适，甚至让人不寒而栗的原因。