客户希望我们对工作机器进行色情检查。可能吗？

一个长期的客户要求我们帮助筛选他们的工作机器以检查色情内容。如果发现敏感材料，他们担心赔偿责任。（出于明显的原因）他们主要关注的是视频，音频和图像文件。如果可能，他们还希望扫描基于文本的文档以查找不适当的内容。他们具有非工作内容的层次结构，从明显的违法行为开始（我不必列出详细信息），然后逐渐转移到明显令人反感的内容，还包括可能对某些内容令人反感的内容-例如内衣广告，笑话卡片，对接裂缝，以及与Howie Mandel相关的所有信息。

我的问题是：

• 这是道德的吗？我认为这是因为每个员工在法律上都同意他们的工作机器属于公司，并且需要进行搜索。筛选不应在投入使用的个人计算机上进行。
• 可行吗 我已经做了很多图像处理/索引工作，但这似乎是一个全新的复杂世界。
• 有没有提到成功发现色情技术的方法？
• 发现某些内容后，将结果存档对我来说是否合适？

您可以使用90％Headology和10％软件来做到这一点。

首先，静静地扫描员工计算机，为每个员工建立文件和大小的数据库。

然后泄漏一条备忘录，其中将扫描所有PC的可疑内容，即老板拥有类似Shazam的程序，可以识别色情内容等。

然后几天后，再次扫描计算机以查找文件和大小。查看任何已删除的文件，它们是电影文件还是图像文件？这些就是您需要关注的员工。

定期在这些员工的PC上扫描图像和电影，然后手动检查它们是否有可疑内容。

这是一个显而易见的神经网络任务。首先，您需要由公司专家选择的大型图像训练集。

一个更有效的解决方案是宣布您将在接下来的每周/每月/无论什么地方检查每个人的色情机器，然后编写一个简单的应用程序来练习磁盘。我保证到那时机器都已经清洗了。

PS -一对夫妇的“严重”点-你其实并不想找到什么。

如果您确实在浏览器缓存中找到了几张图片，那么它们可能会链接不好或出现了令人毛骨悚然的弹出式窗口-还记得老师在whitehouse.com上开除吗？如果您为此解雇/纪律他们，那么工人/工会将产生强烈反对。如果在您的员工研究问题或在线检查价格之前，每次单击都必须提交法律批准，您的公司将如何运作？

如果您在机器上发现一堆色情内容，该如何证明该色情内容是由该员工放置的？您是否拥有可以在法庭上站得住脚的安全和审核系统？您是否使用（甚至不知道）一个系统管理员无法将其放置在操作系统上并使其看起来像用户文件的操作系统？

另外，根据我的经验，最常见的色情藏身地点是CxO和高级副总裁的笔记本电脑上。

最好只是安排文件提前消失。

这种控制方法对于员工和IT人员而言无疑是痛苦的。一旦任何东西进入员工机器，就没有确定的方法可以检测到它。您首先需要停止将其输入机器。
最有名的做法显然是控制可访问的站点/域。这样的列表必须在网上的某个地方可用。除此之外，您还可以跟踪员工下载的图像和视频的数量以及来自何处。
材料很有可能来自网络以外的其他地方，例如来自外部硬盘驱动器。每月可能会对该系统进行一次随机扫描，您可以在其中随机选择一些视频和图像并手动进行检查。不确定如何完成。但是自动检查图像和视频肯定超出范围，并且肯定会是错误的。
实际上，我并不是很想限制员工做私人事情。为此，您应该信任您的员工。您的员工应该在办公室中足够忙碌，这样他们就不会有任何时间。员工是否更担心自己的工作不正确？还是他/他安装了一些破解或被黑的软件？

市场上有许多产品可以执行各种形式的“内容过滤”。（用一些明显的术语进行Google搜索会发现一些明显的候选对象。）使用这些产品之一可能比从头开始构建大量扫描/过滤软件更好。另一种选择是只看边界。例如，通过监视外部电子邮件和网络流量。同样，有些产品可以做这种事情。

毫无疑问，公司扫描计算机中的“不良品”是合乎道德的，但这并不意味着没有问题。

首要问题：

• 确定什么是“有害内容”以及什么不是“令人反感的内容”是主观的。
• 用于检测包含“裸身描述”（让我们说）的图像和视频的软件（AFAIK）可能不可靠，从而导致误报和误报。

因此……这意味着您客户组织中的某人需要检查“命中”。那要花钱。

第二个问题：可能有一个无辜的解释。该文件可能是偶然下载的，也可能是由斗气的同事植入的。如果有无辜的解释，则客户的组织需要小心自己的所作所为。（好的，这实际上不是您的问题，但是您可能要应对一些问题。）

第三个问题：尽管公司有权监视不良材料，但许多员工仍会发现这很令人反感。如果距离太远，这将影响员工士气。一些员工会“走路”。其他人可能会采取抗议行动……例如，试图制造大量误报。（同样，不是您真正的问题，而是...）

第四个问题：人们可以通过加密，将其放在便携式或可移动媒体等上来隐藏令人反感的材料。人们可以伪造元数据，使它看起来像是由别人负责。

关于法国的法律方面：

老板拥有计算机和互联网连接：他可以做任何让他高兴的事情。

但是，不能侵犯员工隐私。如果计算机上的目录标记为PERSONAL，则不允许老板扫描它。

绕过该方法的唯一方法是获取证据，证明员工存储了非法材料，并要求法院要求对计算机进行扫描（请注意，色情在法国不是非法的。）

如果员工同意他们的工作机器属于公司并且可以接受搜索，那么是的，这是合法的。为了证明，最有必要对文件进行存档。

至于如何实际找到材料。你可以：

1. 首先，扫描文件名中的某些单词（色情，女同性恋等）
2. 扫描文本文档中的同一组单词
3. 对于图像，您可以找到图像的平均颜色，如果该颜色恰好在大多数被称为“肉色”的范围内，则对图像进行标记（请务必仔细检查这些标记的图像的人）。不想为某人举报的图像最终成为海滩上的全家福。

如果您在文件进入计算机时对其进行扫描（例如，将程序加载到每台工作计算机上，并将标记的案例记录到中央数据库中），那么我认为这不会太令人讨厌（除了公然的不信任雇主显然对雇员有好处）。

对于视频文件，我不确定100％。可能与图像扫描类似（选择随机帧并扫描一定水平的“肤色”）。

扫描音频文件似乎会进入语音识别，这完全是蠕虫的“另一罐”。但是，扫描文件名将很容易，并且可以像处理文档，图像和视频一样进行。

正如@Ryan所说，图像分析可以专注于颜色分析。

可行性？我姐姐在政府的某个地区工作，每年他们都会接受某种形式的审核，而且曾经是色情影片。她（地球物理学家）有几个假阳性（粉红色岩石）。

最近有大量关于使用常规分类方法检测色情内容的研究。示例可在此处和此处获得。

• 这是道德的吗？

取决于员工的实施和合理期望。例如，如果您的软件扫描了连接到网络的任何计算机，则基础设施还有另一个要求，即防止未授权的计算机插入。（也许应该很明显，但是在我所看到的网络中经常被忽略）。

• 可行吗 我已经做了很多图像处理/索引工作，但这似乎是一个全新的复杂世界。

对每个员工进行药物测试是否可行？也许是这样，但我质疑它的价值。我会随机化。让员工知道可以随时扫描其机器上是否有不适当的内容。

• 有没有提到成功发现色情技术的方法？

我没有碰这个。我认为我无法控制自己的幽默感。但是在搜索文本时请注意“斯肯索普问题”。

• 发现某些内容后，将结果存档对我来说是否合适？

这是我最关心的问题，我会请一位律师。我怀疑如果您发现非法内容，从技术上讲，您可能有义务披露该内容。这很不好，尤其是如果用户没有遇到自己的真正过错。您（客户）将需要有关如何处理此问题的真正法律建议。让人力资源部门和律师参与其中。

从纯粹的技术角度来看：这听起来像是对象类别识别问题。我从来没有做过这样的事情，但是从我读过的内容来看，最先进的类别识别系统是这样工作的：

• 首先，您搜索大量的兴趣点（例如，使用哈里斯角检测器，比例尺空间中LoG / DoG滤波器的极点；一些作者甚至建议选择随机点）
• 然后，您将特征变换应用于每个点（例如SIFT，SURF，GLOH或许多其他点）
• 将找到的所有特征组合成直方图（特征包）
• 使用标准的机器学习算法（例如支持向量机）来使用大量训练图像来学习对象类别之间的区别。

每个人的计算机操作系统都可能是从磁盘映像安装的。

1. 从磁盘映像开始，并获取您可能不需要扫描的文件列表。
2. 获取每台PC上所有其他文件的列表。
3. 从10-20台随机计算机中提取实际文件，并用作测试平台
4. 在亵渎和可疑单词中搜索项目（帅哥，水罐，“勉强合法”，笑话等）字典
5. 观看视频-任何人都应该有视频吗？
6. 查看照片
7. 任何有问题的视频或图像文件都可以用于搜索其他计算机

任何人将任何东西放到工作计算机上，都将需要一到两名员工才能被抓住。

收取此服务的淫秽金额。我将是Zappos永远不会对他们的员工这样做。

假设您是网络上的域管理员。

1. C $放入每个用户的台式机。
2. 将色情文件复制到个人私人共享中。
3. 从原始位置删除。
4. 做爆米花。
5. 完成所有“证据”的详细分析。

我只想发表评论，但只有1个代表，所以我不能。

对于Gravatar，您可以添加一个功能，以从Internet缓存位置中的干净站点列表中过滤掉。IE Gravatar和其他您不想从中误报的网站。您也可以过滤掉桌面墙纸之类的东西。如果他们在桌面上显示色情内容，您可能会认为人们会注意到您的审计之外。

这样的事情永远无法可靠地进行。您可以使用阻止列表来按名称或将其包含在某个列表中来阻止域（通常的做法）。但是这些列表永远不会完整，并且基于标准的名称屏蔽可能会导致许多误报。

您可以阻止出现在站点文本中的单词，但这又可能导致误报（并且非常缓慢，因为您需要分析通过网络的每一个数据位以检测“顽皮的位​​”）。

您可以屏蔽显示出一定比例以上肤色的图片（甚至可能包含这些图片的网站）。但这又导致许多误报。大学医学部门用四肢和躯干的图像显示伤口和皮肤状况来阻止医学百科全书，这是众所周知的例子。当然，这将是种族主义的，因为它只会阻止某些肤色。如果您阻止匹配高加索肤色的颜色，例如总是有使用黑人演员的色情片。

最好只是信任您的员工，并制定何时打破这种信任的政策。

我不知道，必须有一个中间的答案，它不是侵入性的，而是解决了真正的问题，即责任。

让他们签署豁免书，使公司对与工作电脑无关的非法物品承担任何责任，这些非法物品与工作无关。

1. 告诉用户一个网址被视为成人-bluecoat代理会这样做。
2. 许可google在其图片搜索中所做的事情 http://code.google.com/apis/safebrowsing/ http://www.google.com/search?q=google+image+recognition+api
3. 在计算机上扫描不在预定列表中的项目。

图像和内容分析可以确定一个人的品味照片，泳装照片，裸照，色情图片之间的区别……据我所知，仅凭软件就远远不够复杂。

幸运的是，正如@ammoQ在评论中建议的那样，众包在这里应该是有用的。但是我不相信4chan或其他论坛的成员会欣赏大量非色情图片，例如张贴的按钮，框架，广告等的通用Web图形。

我的建议是研究现有的众包解决方案，例如Amazon Mechanical Turk。（但是，服务条款可能明确禁止涉及色情内容，因此建议您可能必须找到其他解决方案或自行解决。）

为了使众包可行，您的软件应准备执行以下一些或全部操作：

• 存储将内容与来自其的计算机链接的信息
• 识别整个清单中的确切重复项并将其删除（但保留原始信息）
• 将图像下采样到某个尺寸，例如320x200，足以识别图像的内容，而不会保留不必要的细节并浪费存储空间/带宽
• 以一定的间隔创建视频内容的静止图像，并应用相同的下采样规则

最后，代表您原始图像和视频内容的缩小图像数据库由用户（或拥有资源的指定团队）根据您公司的行为准则进行检查。程序或界面可能一次只显示一幅图像，也可能显示缩略图屏幕，无论您认为哪种方法都能获得准确的信息。

图像来源计算机的身份对于评估数据的人员而言绝对是秘密且未知的。另外，应该将其随机化，并且每个图像可能要检查一次以上以消除偏差。

可以将相同的技术用于文本，但是首先可以通过关键字排名对内容进行评分，从而从众包评论中删除大量文本。当然，对长文档进行分类要比对图像分类要花费更多的时间。