検索範囲および誤検知についてちゃんと述べておく方が誠実&安全だと思う

ネタにマジレスですが。

顔画像をもとに似た顔の人が出ている AV を検索します。検索対象の顔画像は35万枚です。使い方としては「この画像、AV 女優なんだけど誰だかよくわかんない」「このアイドルに似た人が出てる AV を探したい」など考えられます。「Facebook で流れてきた画像をとりあえず放り込む」「卒業アルバム」などはいろいろアレなのでやめましょうね!!

こういうサービスを作れる技術および実行力は素晴らしく、尊敬します。一方で、こういう種類のサービスは注意深く実現し、運用しないと法的問題および倫理的問題で悩まされると思います。最近議論対象になっている「忘れられる権利」および、誤検知による各種トラブルには留意した方が良いと思います。

  • 「忘れられる権利」を配慮して、AV画像の配布元から消去された画像は検索範囲に含めない。そしてそれを明言する。
  • 「忘れられる権利」を配慮して、AV画像の配布元として商用サイトだけを利用する。そしてそれを明言する。
  • 一致した結果の確からしさについて説明する(画像が一致したからといって、当人とは限らないことを説明する)。可能であれば誤検知率を明示する。
  • 「忘れられる権利」および風評被害を考慮し、申し出のあった画像を検索画像として使わない。ただし、利用者には検索画像として使わないことがわからないようにすること。

検索範囲をWeb全体に広げると、自分では意図せずに犯罪の被害を拡大する行為や倫理的・道徳的によろしくない行為に加担してしまう可能性があると思います。検索範囲とする画像は、自分を商品として売ることに同意していることが明らかなところから持ってきた方が良いと思います。

また、ある人があるAV女優・男優であることを特定することの根拠として、このサービスが使われたとき、以下のケースで責任問題に発生するかもしれません。

  1. その人が当人であるが、特定されることを嫌ったとき
  2. その人が別人であり、かつ、その人がいる環境において、AV女優・男優であることにより社会的不利益を被るとき

そもそも、上記の理由でこのサービスを使うこと自体がすでにアレですが、そういうことする人がでるであろうことは簡単に予想がつきます。その時に免責事項で予防線を張っておくというのもあるでしょうが、そもそも、このサービスで「一致した」ということはどういう意味があり、どの程度の確からしさなのかを説明しておくのはサービス提供者としての誠実さであると思います(ある人があるAV女優・男優であることを特定することの根拠して使えないとデータつきで示す)。明らかにAV女優・男優でない(検索範囲として使っている画像に含まれていないことが明らかである)タレント一覧画像を利用して、誤検知率を示しておけばよいかと思います。

関連: