今年のSIGKDDベストペーパーを実装・公開してみました

hido
Chief Research Officer

2013-08-16 18:23:11

毎日暑いですね。比戸です。

ちょうど今週シカゴで開かれていたSIGKDD2013でBest research paperに選ばれたEdo Liberty氏 (Yahoo! Haifa Labs)の”Simple and Deterministic Matrix Sketching”のアルゴリズムを実装して公開してみました。

元論文PDFは著者サイトから、私が書いたPythonコードはGithubからそれぞれ入手できます。

続きを読む »

ICML2013読み会を開催しました

hido
Chief Research Officer

2013-07-11 15:08:45

夏ですね。暑いですね。比戸です。

先月開かれた機械学習のトップ会議ICML2013の論文読み会を開催しました。本会議に参加したPFIメンバーがいたので、せっかくだからと外部公開にしたところ、想像以上の盛り上がりとなりました。

1週間前というかなり無理なスケジュールで募集をかけたにも関わらず、読む人枠は瞬時に埋まり、聞く人の数も予想を大きく超え合計40名と弊社オフィスでは収まらなくなったため、東大の中川先生にお願いして場所をお貸し頂きました。ありがとうございました。

平日夜18時から22時という時間にもかかわらず濃密なガチ発表が続き、とても有意義な情報共有・質疑が出来たのではないかと思います。ここ1-2年このような論文読み会の機会が減っていると感じていたので、今後も継続的に開催出来ればと思います。

発表者の皆さんもかなり資料をSlideshareに上げてくださったのでせっかくなのでここにまとめておきます。発表ブログや参加ブログにも把握している限りのリンクを張っています。

続きを読む »

異常検知の世界へようこそ

hido
Chief Research Officer

2013-01-17 16:22:38

比戸です。

先週Jubatusの最新0.4.0がリリースされましたが、外れ値検知機能の追加が目玉の一つとなっています(jubaanomaly)。昨年PFIへ入社して初めて手がけた仕事が公開されたということで感慨ひとしおですが、便乗してあまり語られることのない異常検知の世界について書きたいと思います。以下の資料は昨年のFIT2012で使ったものです。

続きを読む »

NIPS2012に行ってきました

preferred

2013-01-08 10:57:31

先日、NIPS (Neural Information Processing Systems)という学会に参加してきました。今回はその報告です。

続きを読む »

PFIセミナーでテンソルについて話しました

大野 健太
エンジニア

2012-07-27 13:12:25

はじめに

大野です。先日PFIセミナーでテンソルについてお話をしたので、それの宣伝を行いたいと思います。当日の様子は以下のリンクから閲覧できます:PFIセミナー(ustream)。また、スライドはSlideShareで公開しています

tensor-decomposition from Kenta Oono

続きを読む »

【ステマでは】日本語入力を支える技術【ありません】

preferred

2012-02-17 19:23:39

徳永です。

日本語入力を支える技術という本を書きましたので今回はその宣伝をします。なお、本自体は技術評論社から2/8に発売されております。

続きを読む »

空間木を利用した関連事例の抽出技術

preferred

2012-01-27 19:56:31

はじめまして伊藤です。1月から PFI で働いてます。

今回は関連事例の抽出技術についてお話しします。関連事例の抽出は推薦(レコメンド)サービス等で利用される技術です。ここで事例は扱う対象によって異なります。対象が文書集合であれば、事例は文書を表しますし、E-コマースサービスのログデータであれば、サービスを利用するユーザを表します。
続きを読む »

任意の学習率の式に対する効率的なL1正則化の計算方法

preferred

2011-12-19 15:48:58

今回はaveraged FOBOSの導出をしてみたのでその話を書こうかと思ったのですが、導出途中に平均化劣勾配法の場合と大差ないと気付いてしまってテンションが下がってしまいました。というわけで、ちょっとネタを変えて、学習率をいい感じに減衰させながら学習するためにはどうしたらいいのか、ありがちな実装テクニックについて書いてみます。

続きを読む »

オンライン凸最適化と線形識別モデル学習の最前線

岡野原 大輔
リサーチャー

2011-11-11 23:54:13

岡野原です。

今日まで奈良女子大で行われていたIBIS2011で表題についての講演をしてきました。

続きを読む »

averaged stochastic gradient descentのご紹介

preferred

2011-10-20 18:07:58

そろそろ寒くなってきましたね。早速風邪を引きました。徳永です。

今日は私の使っている自作の足置き(制作費600円)の紹介でお茶を濁そうと思っていたのですが、途中で方向転換しました。今日は機械学習の話をします。

Léon Bottouという研究者(彼はまたDjVuというドキュメントフォーマットの開発者でもあります)が開発・公開しているsgdというソフトウェアのバージョン2.0が公開されました。sgd 2.0ではaveraged stochastic gradient descent(ASGD)という手法が実装され、これまでのSGDと比べて性能が向上しました。今日はこのASGDを紹介したいと思います。日本語に訳すと平均化確率的勾配降下法でしょうか。漢字が多くて読みづらいので以下ではASGDと呼びます。

続きを読む »