The Decisive Strike

Pulvis et umbra sumus.

Twitter 凍結屋みたいなスパマーを取り締まるのも楽じゃない、という話

長山です。最近 Twitter 凍結屋の話が盛り上がっていますね。自分は Twitter でデータ・サイエンティストとしてスパム対策チーム (Twitter Health Engineering) に在籍していたことがあるので、少しこの件に関連して、スパム対策の苦労について書いておきたいと思います。

ここでしている話は基本的に「プラットフォームのスパム対策における一般論」であって、Twitter 的に Confidential な話はしていません。自分は Google Search、Google Play のスパム対策チームにも在籍したことがあるので、大規模プラットフォームにおけるスパム対策という観点で書いておきたいと思います。

今北産業

  • スパム対策は結構難しく、報われない仕事。
  • 陰謀論的に語られることが多いが、単に難しい仕事に能力が追いついていないだけ。
  • 一般ユーザーは、被害に遭ったら積極的に発信してフィードバックしよう。

スパム対策一般について

まず抑えていただきたいところは以下です。

  • スパム対策は常に敵対的なアクターとの戦いであって、スパマーはプラットフォーム側のスパム検知から逃れる術を常に探っている。
  • スパム対策はかなり専門的な分野であって、恒常的な分析とシグナルマイニング、ルールベースと機械学習を組み合わせながら、スケーラブルなオペレーションを行う必要がある。
  • いかに効率的なスパム対策チームでも、100%のスパムをキャッチすることはできない。基本的にスパム対策でとりえるアクションはアカウントの停止などの非常に厳しいものが多いため、偽陽性を出さないよう精度 (Precision) を上げることが非常に重要になる。必然的にカバレッジ、適合率 (Recall) はあげづらく、偽陰性は増える。

スパム対策は報われない仕事

スパム対策は基本的に報われない仕事です。うまく行っているときは問題の大きさが見えなくなるため誰からも褒められません。99%をキャッチしたとしても、1%が漏れると「運営は何をやっているんだ」と叩かれてしまいます。それでも日々ポリシーを制定し、ケースごとの解釈を行い、シグナルマイニングを行い、オペレーションを整備し、モデルを継続的に訓練する、ということをしなければならない。これらはリーガルやデータ、エンジニアリング、オペレーションなど、複数の専門性にまたがっているので、一つの問題に複数の部署からの担当者が当たることも多く、大きな会社では部署間のコラボレーションも必要になります。

なぜもっと問題を迅速に発見・対処できないのか

プラットフォームの大きさに対して、問題のあるアカウント、問題のあるアクティビティが非常に少ないからです。たとえば Twitter はグローバルで億単位のアクティブユーザーを抱えている一方、スパム対策に割けるリソースは限定的です。もちろん、日本は有数の重要マーケットではあるのですが、同時に非常に特殊なマーケットでもあり、日本にローカルのスパム対策専門家チームを育てていく必要があります。それは簡単なことではありません。

また、どのスパム問題が大きいのか、を理解するためには、ある問題の発生頻度とその重篤さを同時に考える必要があります。それを同時にただしく認識することは非常に難しいです。スパム対策において最も難しいのは、ある事象が問題だと理解することです。ラムズフェルドは Known knowns, known unknowns, unknown knowns, unknown unknowns の4章限で知識を語りましたが、unknown unknown を unknown known に変えることそのものが、とても難易度の高いことです。しばしば人は「運営がこんな問題も認識できないはずがない、なにかの陰謀だ(政権と汚職で繋がっている、ユダヤ人が裏にいる、赤子の脳みそを食う悪魔崇拝者に違いない、などなど)」と思いがちですが、そうではなく単に無能なだけ、正確にいうと「問題の複雑さに対してリソースが追いついていないだけ」です。ハンロンの剃刀を思い出しましょう。

なぜ凍結されたアカウントを復旧させるのは苦行なのか

ここを容易にしてしまうと、スパム対策の意味がないからです。もちろん偽陽性を出してしまった時、それを正しく復旧させるのは非常に重要なのですが、ある復旧申請がスパマーによるものなのか、それとも哀れな一般ユーザーによるものなのかは判別が容易ではありません。アカウント停止前はもちろん「疑わしきは罰せず」の精神で、「立証されない限りスパムではない」としますが、一度停止されたアカウントを復旧させる際はこれが逆になり、「立証されない限り一般ユーザーではない」になってしまいます。ここの塩梅は非常に難しいです。

一般のユーザーには何ができるのか

誤凍結されてしまったら、凍結解除申請のプロセスに入った上で、経緯を積極的に発信してください。Make some noise! 多くの場合、チームはこういった自分達の認識していない問題がどれくらい存在し、どれくらいの規模と重篤さがあるのかを知りたがっています。

これは「停止されるべきであるのに停止されていない」ようなスパムやアカウントに関しても同様です。スパムを発見したら、レポートした上で、積極的に発信して、対策チームに届けましょう。

おわりに

もちろん、スパム対策チームは100%の精度で100%のスパムをキャッチし、誤凍結などが発生したら速やかに解除するのが理想的な世界です。しかし多くの場合チームは(プライバシーに対するケアの問題もあり)半ば目隠しをしながら対策を行っていることがほとんどです。報告し、発信することで、プラットフォームにフィードバックしていきましょう。

ちなみにですが、現在自分が創業者兼最高戦略責任者をやっている JADE では、プラットフォーム向けにスパム・アビューズ対策のコンサルティングも行っています。実際にスパムに悩まされていたクライアントが効率的に対策を行えるようにもなっています。悩んでいるプラットフォームの方がいましたら、ぜひ一度ご相談ください。

ウォーハンマーはいいぞ

このブログ記事は、Splathon Advent Calendar 2021 の1日目です。明日はしんさくさんです。

コロナのあいだにハマったものはありますか、と聞かれると、常に「ウォーハンマー 」と答えています。自分がやっているのは、Warhammer 40k というやつで、41千年紀の宇宙におけるクソみたいな人間たちと混沌神とエイリアンたちの死闘を描くミニチュアウォーゲームです。情報量が無駄に多かったのでひとつひとつ説明していきますが、千年紀というのは1000年ごとに分割した時代区分で、現在2021年は第3千年紀に属します。つまり41千年紀というのは今から38000年後の話ということになります(ADであれば)。そこではサイキック能力を使えるようになった進化したスーパーヒューマンたち(特殊な手術を施して超人的な力を得て数千年生きられるようになっているものも数多くいる)や、混沌の神に使える忠実なデーモンたちとそこに魂を売った人間たち、そしてはるか昔に栄えた宇宙エルフや何億年もの眠りから覚めた宇宙スケルトン、戦闘キノコ生命体である宇宙オーク、そして20世紀初頭くらいの技術で頑張るパンピーなどがひたすら戦争を繰り広げています。自分も始めたばかりなのであんまり設定には詳しくないですが、イギリスの猛烈な厨二病の妄想を二乗した程度のぶっ飛び設定だと捉えれば大体間違い無いです。地獄です。

https://www.frontlinegaming.org/wp-content/uploads/2020/05/necrons3.png 宇宙スケルトン

こういったさまざまなぶっ飛び設定を持つ軍団を組織し、プラモを買ってきて組み立て、スプレーして色を塗り編成を組み、おもちゃの軍団を作り上げてひとしきりにやにやしながら「俺って色塗るのうまいな」と自尊心を高めた上でバトルにもっていき、他の人の作品がさらにうまいことに驚愕して目ん玉をむき出し、「か、かっこいいですねえ…!いろぬるのうまい!!!!」と知能0のコメントをした上で、鈍器のようなルールブックを片手に、そこまで複雑では無いはずのにファクションごとやユニットごとのバリエーションや追加ルールがめちゃくちゃ多くて把握が不可能と言ってもいいルールに頭を悩ませながら、「俺の組み立てたカッチョイイ〈虚の龍〉(ルビ: ヴォイド・ドラゴン) のク=タン・シャード (ルビ: 古代神の欠片) が《反物質のメテオ》(ルビ: アンチマター・メテオ) で攻撃するぜ!バリバリバリ!」「なにを!俺のゴキゲンなオルクどもは《猛獣掴み》 (ルビ: ビーストスナッガ) の一族だから気合いでダメージなんて吹っ飛ばすぜ!オラッ硬い皮膚バリヤー!」みたいなことをサイコロ振りながら言い合うゲームです。ゲーム参入障壁の高さ(価格が高い・組み立てて塗るのに時間がかかる・保存にスペースが必要)と継続の容易さ(一度塗ってしまったものは物理的に残り続け、またルール的にもサポートされ続けることが多いため、一度離れても戻ってくることが簡単にできる)が故にプレイヤーの平均年齢が他のホビー(たとえばTCG)などに比べて高いため、だいたいオッサン2人で小学生のごっこ遊びをしているような絵面になります。サイコーに楽しいです。

〈虚の龍〉(ルビ: ヴォイド・ドラゴン) vs帝国技術局 (ルビ: アデプトゥス・メカニクス)
〈虚の龍〉(ルビ: ヴォイド・ドラゴン) vs帝国技術局 (ルビ: アデプトゥス・メカニクス)

何が楽しいか、というと要はこういうことです。

  • 色を塗るのが楽しい。自分は中学生の時、時間ギリギリまで頭を悩ませて作った作品の評価が10段階中2で、なんか15分くらいで終わらせてあとは楽しそうにくっちゃべってたやろうどもの作品の評価が8だった時から芸術的なものを憎んできたのですが(先生覚えてろよ)、フィギュアぬるのなんか楽しいです。専用のアクリル絵の具が優秀で、水溶性で変なにおいとかもきつくなく、さっと塗ったらそれなりにカッチョイイし、ガイドが充実しているので動画を見ながらその通りに塗るだけでかなり鑑賞に耐えるものができます。自分が上達するのが目に見えてわかるので、楽しいです。
  • 編成を組むのが楽しい。これはTCGのデッキ組みとかと一緒なんですが、とにかく戦略を考えながら軍団の編成を考えるのが楽しいです。また買ってきて・組み立てて・色を塗らないとそれが実現しないので、自分の理想とするデッキをつくる過程が「兵站」としてあるので、よりコミットメントが増します。実際の戦争も軍艦作ったりするの時間かかるでしょ。次の戦役までに急ピッチでこの戦車を完成させなければ…!みたいなリアル戦争感をあじわうことができます。
  • バトルが楽しい。大きいものだと 2m x 1m くらいのでっかいボードとテレインを使って、多いと 100 体以上の兵隊が参加する巨大な戦場が机の上に出現します。長くて4時間くらいかかるんですが、もう兵隊動かしてるだけで楽しいです。究極ごっこあそびなので。もちろんルールもしっかりしていて、自分の考えた編成と戦略がうまくハマると脳汁がドバドバ出ます。逆にコテンパンに負ける時はめっちゃコテンパンに負ける時もあり、プレイ2回目くらいの初心者の時に結構ガチなデッキにほぼ1ターンキルをかまされたのはいい思い出です。ハハハ…一生語り継ぎますからねTさん。

我が王朝のエリート兵たち
我が王朝のエリート兵たち

てな感じで最近は最低月1は遊べており非常に幸せです。最近はあそぶためだけにホビーショップに行ったりもしています。初対面の人との対戦は緊張しますが発見も多いです。自分の主なデッキは上に貼った画像の宇宙スケルトン軍団で、ネクロンというんですが、数億年前に活躍したが諸々経緯があって全身義体化した上で長い眠りについていたのだが最近起きてきて人間どもの存在に気づき「なんじゃここはうちの領土やぞ」と活動を始めたという超古代宇宙エジプト人たちです。上にもちょっと出てきた〈虚の龍〉というのはネクロンが以前戦って封印した古代神の欠片で、奴隷として使役されています。もうね、モデルが厨二病すぎてやばい。塗るのめっちゃ楽しかった。機械の軍団作り上げるの楽しすぎる。

行け!戦士たちよ!
行け!戦士たちよ!

より参入障壁が低い Warhammer 40k: Kill team という戦術級(1部隊の編成を組み、多くても5〜10体程度の兵をつかう)のゲームもあるので、いまならそちらから入るのがいいかも。こちらは長山は宇宙キノコであるオルクというファクションを使っています。こっちも大変ゴキゲンでプレイしていて楽しいです。興味がある人はぜひ長山に声をかけてください。

以上、最近ウォーハンマーにどハマりした初心者のレポでした。来年も Splathon をよろしくお願いします。

2021-01-26 今日の官報

このブログ記事は、毎日官報の16日目である。

2021-01-26 の官報は以下。

  • 本誌 第419号
  • 号外 第17号
  • 政府調達 第16号

本誌

なんか今日、地味っすね。

農林水産省: 肥料

大体の肥料が登録更新になるが、一部のものは期限切れって感じか。

国土交通省: 高速道路、宅建

防衛省: 射撃訓練

地方整備局

号外

厚生労働省: 特別加入

金融庁・法務省

農林水産省: 品種登録

行旅死亡人

  • 本籍・住所・氏名不詳の女性、30−50歳、仙台市泉区明通四丁目公園敷地内にて発見。
  • 本籍会津若松の74歳男性、氏名も判明しており、発見地は福島県白河市、死因は腹部大動脈破裂。
  • 本籍・住所・氏名不詳、30-60歳、東京都中央区新川一丁目、隅田川で浮いているところを発見。

2021-01-25 今日の官報

このブログ記事は、毎日官報の15日目である。

2021-01-25 の官報は以下。

  • 本誌 第418号
  • 号外 第15号
  • 号外 第16号
  • 政府調達 第15号

本誌

厚生労働省: 健康保険国庫補助

健康保険国庫補助の額を厚生労働大臣が追加できるようになる。

総務省: 地方税関連

東京都と神奈川県との境界に変更があったらしい。具体的には、町田市の一部が相模原市に、相模原市の一部が町田市になったっぽい。それに伴う変更。

法務省: 帰化

はい、お疲れ様です。

外務省: エルサルバドル🇸🇻への贈与

厚生労働省: 健康保険関連

最初の省令変更に関わるもの。

農林水産省: 保安林、醤油、畜産物

JAS規格の改正、どのように改正するかは省かれてて草。農林水産省のサイトにも載ってない…?

防衛省: 射撃訓練

地方整備局

その他

「お祝いです」差し出した封筒に現金

完全アウトやんけ!

号外

厚生労働省

省令、これだけで184ページあるのすごい。気になったところ:

  • 「指定居宅サービス事業者は、利用者の人権の擁護、虐待の防止などのため、必要な体制の整備を行うとともに、その従業者に対し、研修を実施するなどの措置を講じなければならない。」という文言が追加。
  • 「職場において行われる性的な言動またや優越的な関係を背景とした言動であって業務上必要かつ相当な範囲を超えたものにより訪問介護員などの就業環境が害されることを防止するための方針の明確化などに必要な措置を講じなければならない。」要はセクハラ・パラハラ対策を行えという文言が追加。
  • コロナ対策やれ、みたいな文言が追加。

虐待、人権擁護、セクハラ、パワハラ、感染症対策…むしろ今までなかったのか。

総務省

家計調査票の様式の改正。

公安審査委員会: オウム

Aleph、山田らの集団、ひかりの輪など、オウム後継集団の観察対象処分期間延長。めちゃくちゃ面白いので、もう一度後でじっくり読む。

外務省: 宇宙協力

民生用月周回有人拠点のための協力に関する日本国政府とアメリカ合衆国航空宇宙局との間の了解覚書の署名及び効力発生に関する件(外務三五)

月周回有人拠点!名前だけでカコイイ。

ゲートウェイ(Gateway)は、NASAが中心となって開発を進めている月を回る有人の宇宙ステーションで、NASAのほか、欧州やカナダ、そして日本も参画し、国際宇宙ステーション( ISS )の建設や運用のように、それぞれが技術や部品、物資補給などを提供することで構築される。最初の構成要素(モジュール)の打ち上げは2024年に予定されている。

いいですねえ。

行旅死亡人

  • 本籍・住所・氏名負傷、70-90歳、女性、身長150cm、痩せ型、川口市のアパートで高度腐敗、死亡した状態で発見。
  • 本籍・住所・氏名・年齢不詳、頭部が白骨化した男性、千葉県富里市十倉にて発見。
  • 本籍・住所・氏名・年齢不詳の男性の白骨化した頭蓋骨、死後10年以上経過したものと推定。岡山市南区妹尾の土中にて発見。
  • 本籍・住所・氏名不詳、60−80歳男性、岡山市東区古都宿地内のJR山陽本線五の坪踏切にて発見。轢死。

2021-01-22 今日の官報

このブログ記事は、毎日官報の14日目である。

2021-01-22 の官報は以下。

  • 本誌 第417号
  • 号外 第14号
  • 政府調達 第14号
  • 特別号外 第6号

特別号外

厚生労働省: 新規麻薬設定

  • 医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律第二条第十五項に規定する指定薬物及び同法第七十六条の四に規定する医療等の用途を定める省令の一部を改正する省令(厚生労働七)

危険ドラッグの成分4物質を新たに指定薬物に指定」とのこと。施行後は、これらの物質とこれらの物質を含む製品について、医療等の用途以外の目的での製造、輸入、販売、所持、使用等が禁止されます。

本誌

政令

命令: 押印廃止関連

フロン令の押印が廃止に。

財務省: 物件入場料債券

「物件入場料債券」が国の債権として追加。上の政令に関連してか。

消防庁: 緊急事態宣言での点検

コロナ関係。

法務省: 公証人、帰化

外務省: 円借款延長

財務省・経済産業省: 国債など

厚生労働省: 介護保険、医薬品

農林水産省: 仔牛の平均売買価格の設定

国土交通省

地方整備局

公安委員会

その他

  • 天皇陛下は、アメリカ合衆国大統領ジョセフ・ロビネット・バイデン閣下の大統領就任につき、一月二十日ご祝電を発せられた。

号外

厚生労働省: 医薬品関連

財務・農林水産・経済産業省

コロナウイルス対策。打撃を受けた中小企業支援。

行旅死亡人

  • 本籍・住所・指名・年齢不詳、男性と思われる、155-165cm程度の身長の白骨、千葉県若葉区大草町の雑木林にて発見
  • 本籍・住所・氏名不明、男性、30代から50代、173cm/70kg、福井県三方郡美浜町の海岸で発見
  • 本籍・住所・氏名不詳、年齢40-60、170-175cm、ハンチング帽子、寝袋、岡山県総社市にて発見。