機械学習

比較データと確率モデル

個のアイテムからなる集合 を考える。本記事では、これらのアイテム間の比較に基づく観測データ(例えば二者間の勝敗など)に対して、適当な確率モデルを導入することで、その事象を説明することについて考える。また、その確率モデルの潜在変数を、観測デー…

共分散行列 (Covariance Matrix) の行列式 (determinant) の対数 (log) を計算する

下記ライブラリのガウス過程回帰 (Gaussian Process Regression) の実装の際に悩んだ点をメモしておく。 github.com いつ行列式の対数 (log-determinant) を計算する必要があるか 例えば、多変量正規分布 (multivariate normal distribution) が関連する統計…

対数正規分布 (log-normal distribution) の可視化

0よりも大きい値しかとらない確率変数*1について、その事前分布を設定するときに、対数正規分布 (log-normal distribution) を用いることがある。 Yuki Koyama, Issei Sato, Daisuke Sakamoto, and Takeo Igarashi. 2017. Sequential Line Search for Effici…

対話型機械学習 (Interactive Machine Learning, IML) について

普段は Computer Graphics や Human-Computer Interaction を勉強しているのですが、最近は機械学習も少し勉強しています。今回は Human-Computer Interaction とも関わりの深いトピックである「対話型機械学習 (Interactive Machine Learning, IML)」につい…

共分散行列を含む多次元のガウス関数の微分

目的:ガウス関数の微分 共分散行列 (バンド幅行列) を用いて表された多次元 (多変量) で異方性のガウス関数 (多変量正規分布) の微分 (勾配) を考えます。微分したいガウス関数の形は だとします。ただし は正値対称な共分散行列 (バンド幅行列) で、 です…

Multidimensional Scaling (多次元尺度構成法, MDS) の計算方法と実装

Multidimensional Scaling (MDS) について少し勉強したのでメモしておきます。 Multidimensional Scaling とは はじめに 日本語では「多次元尺度構成法」と呼ばれる統計テクニックの一つです。英語版ウィキペディアの記事が詳細です。多次元尺度構成法 - Wik…

情報検索のための Learning to Rank の概要

この記事では以下の文献の第一章の最初の方をざっと読んで得た知識を簡単にメモしています。事前に断っておくと、私は情報検索 (Information Retrieval, IR) の専門家でもありませんし、機械学習の専門家でもありません。誤り等ありましたらコメント欄にてご…

SIGGRAPH '14 におけるクラウドソーシング論文

はじめに クラウドソーシングに関する論文は CHI や UIST などの HCI (Human Computer Interaction) の国際会議や、AAAI などの機械学習の国際会議を中心に、この数年間で急激に増えています。近年ではコンピュータグラフィクスの国際会議である SIGGRAPH で…

RBF 補間 (Radial Basis Function Interpolation) の概要と実装

はじめに RBF 補間とは RBF 補間とは、RBF (放射基底関数, radial basis function) を用いて入力となる散布データ (scattered data) の値を補間することです。または、与えられた散布データを元に非線形な関数をフィッティング (または近似) することだと考…