evallm

コマンドの解説

呼び出し形式

    evallm [options] -arpa 言語モデル指定(ARPA形式)
    evallm [options] -binary 言語モデル指定(バイナリ形式)

    evallm : 

言語モデルの指定として，次のようなものが使える．

    ファイル名[;長さ][*重み][,ファイル名[;長さ]*重み...]

• 「ファイル名」は言語モデルファイルの名前である。なお， ここで指定するモデルは，単語N-gramでもクラスN-gramでもよい．
• 「長さ」を指定すると、その長さのN-gramとしてモデルを評価する。この機能 によって、例えばtrigramのモデルをbigramとして利用できる。
• 「重み」を指定すると、その言語モデルで計算された確率に重みを乗じる。
• 複数のファイル名を指定すると、それらの全てのモデルから計算された 確率をすべて加える。結果を確率として評価するためには、全てのモデルの重みの 総和が１でなければならないが、チェックはしていない。

• ２つのモデルa.arpaとb.arpa.gzを，それぞれ重み0.25と0,75で加える場合，

      a.arpa*0.25,b.arpa.gz*0.75
  

  ディスカウントのないbigramモデルx.arpaについて，unigramとbigramを それぞれ0.41と0.59の重みで加える場合，

      x.arpa;1*0.41,x.arpa;2*0.59
  

オプション

-ccs コンテキストキュー

コンテキストキューのファイルを指定する．

-text 評価テキスト

指定された評価テキストを使って、ただちにパープレキシティを 計算する。

-probs ファイル

評価テキストの各単語の出現確率を，指定したファイルに書き出す． -text オプションとともに使った場合のみ有効．

-annotate ファイル

評価テキストの各単語の確率，対数確率，計算状況(直接求まったか， back-offしたか，etc.)を，指定したファイルに書き出す． -text オプションとともに使った場合のみ有効．

-include_unks

未知語の出現確率を含めてパープレキシティを計算する． -text オプションとともに使った場合のみ有効．

サブコマンド

perplexity -text 評価テキスト, pp -text 評価テキスト

指定されたファイルのテストセットパープレキシティを計算する． このコマンドには，次のようなオプションがある．

-probs ファイル

評価テキストの各単語の出現確率を，指定したファイルに書き出す．

-annotate ファイル

評価テキストの各単語の確率，対数確率，計算状況(直接求まったか， back-offしたか，etc.)を，指定したファイルに書き出す．

-include_unks

未知語の出現確率を含めてパープレキシティを計算する．

validate w1 w2 ...

与えられたコンテキストw1 w2 ...(trigramの場合は2単語) において，

 ΣwP(w|w_1w_2...)=1

になるかどうかをチェックする．

help

コマンド一覧を表示する．

quit

evallmを終了する．

注意事項