theanoでMNISTを多層パーセプトロンするとき（日本語？）のnegative log-likelihoodをコストとして計算する式であるところの NLL = -T.sum(T.log(p_y_given_x)[T.arange(y.shape[0]), y])]という式について、ただし実用的には、 NLL = -T.mean(T.log(p_y_giv…

2015-11-21 日本科学哲学会シンポジウムのメモ 講演：保前文高「言語獲得の発達脳科学」 脳科学と芸術、という本の中に論文がある 言語発達脳科学とコンパクトに言ったりする 言語科学教室というのは生成文法を中心の言語理論の専門家と 脳を中心にアプロー…

研究室で週に一度、NLPに関わりそうな好きなテーマで発表をするという会をやっていて、今回の担当では言語に関わる脳の話をすこしだけしました。読んだ（紹介した）本は脳はいかにして言語を生みだすか 武田ほか、2012年、講談社 http://www.amazon.co.jp/dp…

logyyyy-MM-ddとしているものは研究や研究室での活動のログにしようと思います。 古いのは残していないので2015年11月からということで。発表や論文紹介などで使ったスライドはできれば公開したいのですが、論文の引用や画像がそのままだったりするので、必…

邦訳:辻幸夫ほか、2008年、慶応義塾大学出版会 原著: Michael Tomasello. 2003. Constructing a Language: A Useage-Based Theory of Language Acquisition. Cambridge, Massachusetts and London, England: Harvard University Press. 言語獲得の本です 部…

ACL2015で気になった論文です、anthologyのページで検索かけて見つけています。調べたものがあるたびに追記。列挙しているだけなので全部きっちり読んでいるわけではないです。 Knowledge- Semantically Smooth Knowledge Graph Embedding - ACL Anthology […

[1507.01122] Modeling the Mind: A brief review [1507.01127] AutoExtend: Extending Word Embeddings to Embeddings for Synsets and Lexemes [1507.01193] Dependency Recurrent Neural Language Models for Sentence Completion [1507.01526] Grid Long…

人工知能学会全国大会2015に参加しました。参加記ということで。 自分の発表 私の発表は jsai2015:2L3-3 目的論的意味理解に基づく対話システムへのモデル提案 発表のスライドも。 概要をざっくり説明すると、 ・ミリカン的な目的論的意味論で意味の定義から…

arXivで見つけた気になる論文のリスト。月ごとに記事を用意して、日々追記します。しっかり読んだら別の記事にします。なるべく番号順にしたい。 [1506.00019] A Critical Review of Recurrent Neural Networks for Sequence Learning [1506.00195] Recurren…

2015-05-10に作成しました。 それ以前の日付の記事は私個人の別のブログの雑記から移動させたものです。

・意識の表象理論の問題点のひとつめ、高階の表象理論まわり 意識の表象理論には課題がある。（鈴木, 2015, 『ぼくらが原子の集まりなら、なぜ痛みや悲しみを感じるのだろう』）の4章を参考にして、本稿で提示する概念（前章で提示された概念）がこれをどの…

・結局意味って何なの？ 本来的表象の志向的内容である、でいいのかな。表象理論の整理がいまいちだからもう少し掘り下げないといけない。 表象は本来的表象と派生的表象に区別される。「ある生物の内部状態が本来的表象である」ことは、「その状態があると…

・関数,クロージャ,オブジェクトなどの細かい実装差分 手元ではnode.js v0.10.32で出力させて確認。 /* sample1 ただの関数 */ console.log("---sample1---"); function init1() { var num = 0; function disp() { num++; console.log(num); } disp(); } ini…

・ABC017C+のいもす法(30+70+1) http://abc017.contest.atcoder.jp/submissions/349221 いもす法じゃない法(30+70) http://abc017.contest.atcoder.jp/submissions/349090 という感じで、単純な例では「一次元の重みつき部分区間の集合を扱う」ときに使う。 …

・makeでコンパイルする習慣をつける 競技プログラミング的な問題のためにコードをコンパイルするとき、いつも $ g++ hoge.cpp -o hoge.outと書いていた。.outにするのは.oだと文字数が.cppと合わないし実行ファイルだから拡張子無しってするとディレクトリ…

・降順のソート(vector) sort(v.begin(), v.end(), greater<int>()); か sort(v.begin(), v.end()); reverse(v.begin(), v.end()); でよろしい。・ビット演算を使って全ての組み合わせを出力する ABC018Dのコードを漁っていたら知った。たとえば__builtin_popcoun</int>…

・計算量の圧縮について 愚直に計算したら到底終わらないような問題の計算量の次元をどうやったら落とすことができるか。ここまで数問としか呼べない程度の問題しか解いたことのない経験での雑感では、「便利なデータ構造を使って探索の次元を落とす」「アル…

・whileとデクリメントでfor文の代用をするかしないか for (int i = 0; i < n; i++) {...} を while(n--) {...} と書くのは格好良い（もちろん使うのは回数だけ欲しいときだけね）。ただしデクリメントとwhileの判定の仕様に気をつけようねという話。具体的…

・ARC034Cだった ARC034C:http://arc034.contest.atcoder.jp/submissions/342262 解説:http://www.slideshare.net/chokudai/arc034 素因数分解して約数の総数を出しましょうよという問題。そもそも解答が正確に考えられてなかったので時間内には解けませんで…

・じぶんが書いたやつ Atcoder上に提出した自分のコードがたどれないっぽいので、あとで見返せるようにリンクをまとめておく必要がある気がする。 dwango2015A:http://dwango2015-prelims.contest.atcoder.jp/submissions/322837 dwango2015B:http://dwango2…

木田元『ハイデガー 『存在と時間』の構築』から引用とメモp40-44 ・存在(sein)は作用であり、存在者(Seiendes)を存在者たらしめるものである。 ・存在作用の場になっているのが現存在(Dasein)であり、現存在が存在を了解するときにのみ、存在はある(Es gibt…

丹治信春『クワイン』の5章「認識論の自然化」だけ読むっていう雑なことをしたのだけど、そりゃあそうよね、やっぱりそうなるよね、と思った。直観に合っていて、これ以上のことは何も言えないと思った。んでだいたい人間が関わることは生物学のスケールに落…

某学会のポスター発表の原稿を作ろうと内容を考えている。ベースとしては卒論の議論をもとにして対話システムへの適用を考えたいのだけど、検討しなければならないことが多いということがわかってきた。ざっくりと指針を書き出してみる。 記号はそれに対応す…

ものを書くということについて考えていた。というよりも、そこに世界をどのように描くかということだけど、記号に対応するような事態が自分の頭の中に構成されていないのなら、何を記しても世界は湧いてこないような気がする。だから何より大切なのは、頭の…

シェルでそのままfor文を書いたことがなくてあれだったので。 $ for ((i=0;i<10;i++)) for> do for> echo $i for> done 0 1 2 ... もちろん、 $ for ((i=0;i<10;i++)); do; echo $i; done; $ for ((i=0;i<10;i++)) do echo $i; done $ for ((i=0;i<10;i++))d…

（受験したのは2014年夏です）情報理工のコンピュータ科学の院試体験記もどき。・前提 数学：教養学部で数学1Aと2を履修（評価はどちらも可、しかも1Aは再履修してる） 英語：教養時代は全て評価が可、大学受験以降真面目に触れてない、6月末に受けたTOEIC(…

・論理回路の完備性・完全性(completeness)について いまいち理解がすっきりしなかったのでうんうん考えていた。これは論理学における関数の完全性の概念と同じ。{AND∧,OR∨,NOT¬}の演算子のみで任意の数の引数をとる全ての論理関数を構成できるというもの。c…

所属判定問題 CYK法 ・Gを文脈自由文法とする。入力としてw∈T^*が与えられたとき、w∈L(G)であるかどうかを判定するアルゴリズムがある。 証明： Gについて、A⇒^*εとなるような生成規則を取り除いていけばε∈L(G)かどうかを判定できる。さらにεがあるなら、L(G…

2014computer-s1-3(4) x座標が最小であるQの要素をq0とする。q0.x - p.x 再帰させるだけなので、時間計算量はO(nlog(n))となる。 Inner loopは、lower boundの維持とbreakによるupper boundによってP2の要素それぞれに対してO(1)で動作する。OuterがO(n)だか…

回帰分析 久米・飯塚『シリーズ入門 統計的方法２ 回帰分析』岩波書店、1987年 ・回帰分析は、複数個の変数の間の関係を解析するための代表的な手法。特性と特性の量的関係をつかむ。 目的変数をy、yの挙動を説明していると考えられるn個の変数をと表す。回…