機械学習から作られたアルゴリズムへ対して脆弱性を探る仕事したときは、機械学習やってるチームへ「何でこういう脆弱性出ると思う？」と聞いたら、たいてい「わかりません・・・」という返答が返ってくる

機械学習はブラックボックス化しやすいので手綱を離さない運用がメッチャ重要

それが人命や安全に関わるものなら自分が何やってるのか絶対に全容を把握しとかにゃならん

そういう意味ではデジタルシンセサイザーってすごい、複雑に見えるけどパラメータをどんなに弄り回しても再現性ある

機械学習はシンセシスするモノにならんといかん