やったこと

5.3のPythonのディクショナリの話からです。
5.3は本当にPythonのディクショナリの話で面白くもなかったのですが、5.4自動タグ付けからとても面白かった。
タグ付けというのはテキストに品詞を自動でつけるという事なのですが、結論から言うとかなりの精度でタグ付けというのは自動でできるらしい。
基本は
（１）人力でタグ付けされた文章をもとにタガーを学習させてタグ付け
（２）未知の語に対しては前後の文脈から推測する / もしくは一般的なルールベースでタグ付け
（３）それでもわからない場合は名詞にする
ということでできるそうだ。

次回

次回は５月１５日

2011年2月20日にCSNagoya勉強会の「第2回入門自然言語処理読書会」を開催しました。

　今回は第2章「テキストコーパスと語彙資源へのアクセス」というところでした。
　こういう学習にはいろいろなコーパス（テキスト群。普通はジャンルごとなどに整理されている）が用意されており、使えるようになっているんですよということでグーテンベルクのコーパスやウェブやチャットのテキスト、ブラウンコーパス、ロイターコーパス、就任演説コーパスなどを紹介すると共にNTLKをつかってそれらのコーパスを解析しました。
　例えば
・テキストの作成者によって単語の平均長・文の平均長・特定単語の出現回数などが違う
・テキストの内容によって法助動詞の出現回数に大きな差がある（ニュースはwillが多い、ロマンスはcouldが多いとか）
・就任演説にでてくるamerican,citizenという単語を数えて当時のアメリカの情勢との相関を考えると面白い（ピンチのときはamerican!と叫びたくなるらしい）
といった感じで、特定の単語を数えたりするだけでもテキストの特徴を捕らえることができ、なんだか自然言語処理の雰囲気が味わえて楽しかったです。

あとは主に方言に関する雑談などで何度も脱線しながら2章の途中まで読み進めました。

まとめ

・pythonのコードを初めて書いた
・インデントが適切ないというエラーをみてニヤリとした。
・インデントはいいと思うけど対話環境では面倒くさいとおもった
・方言話でいうと僕がすきな名古屋弁は「わや」って言葉で、これはなんでかっていうとどう考えても他の日本語に適切な言葉は思い当たらず、適切な言葉といえば「fxxk」しか思い当たらないからだ（わやに性的な意味はない）。名古屋に来てなんか嫌なこととかクソなことがあったら「わややが！」といっておけばだいたい皆察してくれる。
・あと「でーれえれーげー」も言葉が汚すぎて好きだ。（でら　えらい　げー=>すごくしんどいわー）

2011年2月6日にCSNagoya勉強会の「第1回入門自然言語処理読書会」を開催しました。

最近やることが多いせいか勉強会のことを昼まで忘れており、パソコンは忘れるし財布も忘れるし、誰にも会わない前提で出かけたので髪もセットしていないし、もちろん参加者の人に答えてもらったアンケートも忘れるという自分でも驚くべき間抜けさでの参加となりました。

4周年

CSNagoyaが4周年を迎えました。第一回は2007年2月11日に開催だったようです。
目標とか理念とかがある勉強会ではないので達成感とかは特にないなー
ひとごとのようですが楽しい人たちのたくさんいる会なのでこれからも僕も楽しんでいきたいです。

第1回入門自然言語処理読書会

序章、1章、12章と音読しました。NLTKってヘンな機能がいっぱいあるなあとか、自然言語処理において日本語が不利すぎて驚いた。英語よりは面倒って言うのはもちろんわかってたけどほかのマルチバイト言語と比べても圧倒的に面倒ということを知って絶望的な気持ちになった。

まとめ

今回は20人近くの人があつまりにぎやかでした。特に関西、関東方面からも参加していただき、僕らもいい緊張感をもって進めれました。
あと、20人もいると文殊を超えた知恵が発揮され、文法に詳しい人はいるわフランス語やドイツ語がわかる人はいるわで議論が盛り上がりやすく、とてもいい雰囲気だったと思います。次回は2章から。後半からまったくわからなくなりそうなこの本ですがこの調子で楽しく読み進めればと思っています。

2011/01/16の第11回GC本読書会で2010/04/18から全11回でやってきたGC本読書会（ガベージコレクションのアルゴリズムと実装読書会）が終了しました。
最後に自分の言葉でGCについて確認し、8ヶ月の読書会のまとめとしたいと思います。

GCとは

GC(Garbage Collection)とは、プログラム中で使わなくなったメモリ領域を見つけ、開放するプログラムである。

GCが組み込まれている言語

Java,Python,Ruby,Perlなど
逆にない言語はC、C++など

メリット、デメリット

メリットはGCがあることでプログラマがメモリの確保、開放に気を使わなくてよいことである
（メモリの確保、開放が適切に行なえないとメモリリーク、オブジェクトの二重開放、無効なポインタという問題が発生する可能性がある。）
デメリットは、ガベージコレクションの処理によって処理が遅くなることである。

主なGCの種類

GCはマークスイープGC、参照カウント、コピーGCの3つのアルゴリズムが基本である。

マークスイープGC

GCをマークフェーズとスイープフェーズという2段階で行なうGC.マークフェーズででは生きているオブジェクトにマークをつけ、スイープフェーズでオブジェクトを回収するというアルゴリズム。
実装が単純で保守的GCとの相性がよい、ただしフラグメンテーションが起こりやすかったりする。

参照カウント

あるオブジェクトが何個のほかのオブジェクトから参照されるかということをカウントしておき、カウントが0のオブジェクトを開放するというアルゴリズム。
マークフェーズが不要なのでゴミの回収時間が早いが、カウンタを増減処理が必要になる。

コピーGC

使えるメモリ領域を2つのFrom空間とTo空間にわけ、最初はFrom空間をつかい、From空間がいっぱいになったら生きているオブジェクトだけをTo空間に移動しFrom空間を削除。From空間とTo空間を入れかれるというアルゴリズム。
死んでいるオブジェクトの探索がない分高速でオブジェクトの移動の際にメモリ領域が整理（コンパクション）されるのでフラグメンテーションが生じないが、ヒープ領域を分割しなければならなかったり、保守的GCとの相性が悪かったりする

そのほかの代表的な手法

上記の3つの組み合わせになります

マークコンパクトGC

マークスイープGCにコンパクションを加えたもの

保守的GC

ポインタと非ポインタとを識別できないGCのこと。
GCはポインタなのか非ポインタ（数値等）なのかわからない場合にはポインタとみなし安全に処理する。その反対にすべてのポインタを把握しているのが正確なGCである。

世代別GC

「多くのオブジェクトは若くして死ぬ」し「長生きしているオブジェクトはこれからも長生きする」という経験を元に効率UPを図ったGC

インクリメンタルGC

GCを徐々に行なうことでGCによる1回の停止時間を短くしたGC

まとめ

・GCについて学んでも（残念なことに）僕はnariさんほどは目が輝かない
・GCは基本のアルゴリズムは3つだが、結局環境や言語に応じて最適化する必要がある
・しったかしてたGCについて少し自信がもてるようになった
・実装編は著者はどんだけソースコードを読んだんだよと感心した
・第4回のときは著者のnariさんをお呼びできて感激だった（有難う御座いました）
・参加者でmallocとかをしたことがない高レベルな人間が僕だけで大変だった
・PythonやAndroidなどプログラムしたこともない言語のGCについて詳しくなった

宣伝

CSNagoyaでは新しいテーマ「入門自然言語処理読書会 」と「組込みOS自作本読書会 」もやっていますので是非どうぞ。
くわしくはこちらをクリック

2010年12月19日にCSNagoya勉強会の「第10回 GC本読書会」を開催しました。
ガベージコレクションのアルゴリズムと実装という本を読む会です。

第11章 RubiniusのGC

・CRubyのGCの解説はRHGにあるので、RubiniusのGCを解説
・世代別GCを採用
・正確なGC
・オブジェクトのサイズによって３つのメモリ空間にアロケーションを行う
・それはマークスイープGCアロケータ、コピーGCアロケータ、ImmixGCアロケータ
・GCの取替えが簡単にできるようになっている
・RubiniusはC++でできているため、CRubyの拡張ライブラリを使うためにC-APIやFFI（Foreign Function Interface)という仕組みを使っている
・拡張ライブラリに渡すすべてのオブジェクトへのポインタを管理することで正確なGCを管理
・埋め込みオブジェクトとポインタの区別は埋め込みオブジェクトの下位2ビットに印をつけることで行う

まとめ

・今回も著者の人は対象言語をよく調べてあるなあと思いました
・ビット演算は1命令でできるから高速だとか、コンパイラに最適化のヒントをあたえる命令があるだとかLL脳の僕には面白かった
・残りあと1章（V8のGC）
・懇親会のサイゼリアでミラノ風ドリアを食い逃げする人を見た

第10章 DalvikVMのGC

　今回はDalvikVMのGCの話です。DalvikVMってなんのVMと思いましたがAndroidのVMだそうです。AndroidはJavaでかけるのでJVMで動くんだとばっかり思っていたらそうではないようです。Androidがリソースの限られた携帯端末で使うことが想定されているので、それように軽量だったほうがいいとかそういうことのようです。

気になったこと・知らなかったことなど

・すべての親プロセスの「Zygote（ザイゴウト）」って語源は何？
・DalvikVMはマークスイープGC（ビットマップマーキング）
・DalvikVMはレジスタマシン（Javaといえばスタックマシンだが、これはAndroidが「ARM」上で動作するため）
・保守的GCを採用（これも速度を優先）
・基本的に関数名がながい（おかげでわかりやすい）

まとめ

　６０ページほどの長い章だったが、あまりトリッキーなことをしていないため割りと素直に読み進めることができた。携帯端末用のVMということでGC一つにしても数多くの工夫がしてあるのがわかり、世界中で使われ始めているAndroidというプロダクトの凄さに触れることができたと思う。
　また章の前半はGCの話をするための下準備として、DalvikVMのオブジェクトのデータ構造やメモリ管理の仕組みについてページが割かれているのですが、この内容がとても濃い。単に「こういうデータ構造だよ」と概要を説明するだけでなく、要点を抜き出したソースコードも併記して詳しく解説がされてある。これだけの解説を書くのにどれほどのソースを読む必要があったのだろうかと思うと頭が下がる。

次回、その他

・「けんろん！」の話を聞くと学生のときに授業についていけなくなったときの感覚を思い出して胸が苦しくなるので見るのも嫌だ
・次回は12月4日NGK忘年会2010（夜の部） : ATNDに合流（12月5日はお休み）

2010年11月7日にCSNagoya勉強会の「第8回 GC本読書会」を開催しました。
ガベージコレクションのアルゴリズムと実装という本を読む会です。

久しぶり

いろいろあって休むことが多かったので2ヶ月ぶりぐらいの参加になりました。
おかげでいつもの持ち物（電源コードとか）を忘れました

あいかわらずGCに関する内容だった

今回は第9章のPythonのGCの後半からでした。Pythonのコードなんて1行も書いたことないのに、どんどんGCについて詳しくなっていきます。（しかも本書中にもPythonのコードはほとんどでてきません）

・Pythonは参照カウントを採用
・メモリ確保にmallocやfreeなどC言語レベルでの層の上に3つの独自のレイヤーを設けて、効率的に取り扱うようになっている
・循環参照はルートを探す=>ルートからたどれないオブジェクト群を削除というアプローチをとっている
・循環参照GCの対象はコンテナオブジェクト（タプル・辞書・リスト）
・GCのデバッグにはgcというライブラリをインポートすると便利
・gc.set_debug()を使えばGCの情報が出力される
・gc.collect() / gc.cdisable()でGCの発動を制御できる

まとめ

・今日もGCについて勉強した
・中日負けた
・懇親会は磯丸水産、美味しいし、値段も手ごろ、活気があって楽しめた
・次回はDalvicVMのGCをやる予定(11/21)

謝辞

結婚祝いにCSNagoyaの皆さんから素敵なグラスとワインを頂きました。
有難う御座います！

今回で本書の前半部分であるアルゴリズム編が終りました。

世代別GC

「若い奴は死にやすい」をGCにとりいれたもの。メモリを２～３ぐらいの領域（世代）に分けて、オブジェクトを寿命に応じて振り分ける。すべてのオブジェクトはいったん第1世代の領域にいれられ、そこでGCされなかったものが第2世代に移動される。第1世代の領域は頻繁にGCされる（マイナーGC）が、第2世代以降の領域はメモリ不足などの場合以外はGC（メジャーGC）をしない。
こうしてGCが不要な可能性が高いものをGCから除外することで効率UPを図っている。

JavaやPythonなどでも取り入れられているので、割とバランスのとれたよいGCなのかもしれない。

トレインGC

世代別GCの中でもメジャーGCのアルゴリズムを工夫したもの。オブジェクトを参照関係によって複数の列車のように並び替えを行うことで、メジャーGCのスピードUPをさせたもの。

その他懇親会・雑談

・グリーンバンド（みずぴー日記）を入手。自分の戒めになるだけでなく、テストに恵まれない人たちが救われるらしい。（まだ在庫あるらしいです / 帰ってから家族に環境活動でも始めたのか心配されました）
・圏論を勉強する「けんろん！」という会が発足しようとしているらしい。なぜか！マークの数でもめていました
・岡山からきびだんごの差し入れ
・わらびもち愛好会からワラビモチの差し入れ
・水筒にカルピスをいれてもっていったが欲張ったため濃すぎて気持ち悪かった
・名古屋LISP・名古屋Emacsとか
・GC本読書会の次はなにやろうという話。僕はカジュアル路線に戻りたいかなー
・料理がしたい・わらびもちセンサーが作りたい（勉強会ってなんなんだろうっていう議論が必要）
・既婚者の勉強会参加の難しさ
・逆に勉強会という名目であれば家族をおいてスノボなどもいきやすい
・名古屋Ruby会議の準備しないとね

「ガベージコレクションのアルゴリズムと実装」という本がでましたのでCSNagoyaで読書会をすることになりました。詳しい内容などはまた後日案内させて頂きます。

受付URL
http://atnd.org/events/3898

RHG読書会

第16章 ブロックのところを読み、ブロック付メソッドがどのように評価されるのか。メソッドとブロックの対応がどう保持されているのかがわかりました。

発表会

1人15分ほどで好きな話題で発表

私は「Rubyで作る奇妙なプログラミング言語 ~Esoteric Language~」について発表しました。この本はbrainf*ckやwhitespaceなどの特殊な言語を実装しながら言語を作るということを学ぶ本です。
タイトルからして不真面目な内容かと思っていたのですが、全然違う！数十行でコーディングできる言語から始まり、インタプリタ、スタック型、VM型の言語の作り方から、構文木の解析などをやさしく段階的に学べる非常に優れた本だったのです。プログラミング言語ってどうやって作るんだろうという人にはとてもオススメです。（発表で使ったネタ言語はこちらから見ることができます）

そのほかの人の発表をざっくり

最近の半導体について cho_tekitouさん

最近の最先端の半導体について話して頂きました。全然知らない分野だったので面白かった。
・450mmウエハーの工場を作るには8000億円～1兆円かかる
・EUV（光の波長を短くする）,TSV（縦につむ）という方式の実用化はまだ先らしい。ムーアの法則の限界が来ている
・シミュレーションなどではまだまだ早いCPUが必要。マシンの分散などをしても通信のコストがあるのでこの分野では使えない

15分でわかる継続 lequeさん

Rubyにもある継続の話。2度説明してもらってやっと継続がなにかその場ではわかった気になった。
「継続とは計算の未来」
とのこと。よい頭の刺激になりました。

こういう自分の知らない概念は「いつうれしいのか」というのを聞くとすんなり理解できたりするのだけど、継続はそういうたとえもあまりないっぽい。

組み込み系の開発モデルについて Yasuyuki Miuraさん

組み込み系では設計からテストまでどのような順序で行われるのかという話でした。人の命を左右する可能性のあるプログラムをつくるというのは大変だなと思いました。

Scalaの開発Tips maedaさん

Scalaのsbt (simple-build-tool) とmockitoの紹介。Scala開発の際には、sbtを使うと自動でコンパイルとかしてくれて非常に便利だし、テストの際はモックを作るのにmockitoというのが便利ですよという紹介でした。

ハイプ曲線をしっていますか？ dominion525さん

あるテクノロジに対する期待度の変化の曲線のこと。「このテクノロジーはいま○○だよね」と当てはめて考えるのが面白かったです

エンタープライズをハックしよう かたぎりさん

エンタープライズをハックしようということで、RspecとCucumberの話でした。もうテストコードをテストコードを呼ぶのはやめて、コードの一部と考えようという意見が印象的でした。確かにそう思うべきなのかもしれません。僕もRspecの本を読んでみたいと思いました。

中華料理について phiripさん

４大中華料理である、「北京料理」「広東料理」「四川料理」「上海料理」の地が中国の地図でいうとどこなのかという話と、この発表の後は何料理を食べに行くかという話でした。

まとめ

・みんなで発表は楽しい！
・CSNagoyaは4年目に突入。これからも楽しくやっていきたい