読者です 読者をやめる 読者になる 読者になる

らこらこブログ

唐揚げとアニメとプログラミングが大好きです

メカらこv3の文章生成 微調整

前回のあらすじ

メカらこv3の文章生成 実装と試運転結果 - らこらこブログ

もう少し大きな学習データで試す

今回は固有名詞だらけで面白そうなこの記事を使うことにした

首相「安倍政権の考え出す」 戦後70年談話 | ニコニコニュース

記事本文を食わせて前回と同様に文章生成させる。前回から修正した点は、上位3位に限定した抽選をやめて、確率が0より大きい候補をすべて抽選対象にしたこと。また、抽選を単純なランダムではなく確率の値を考慮したアルゴリズムに変えたこと。

      samples.sort((a, b)=>b.probability - a.probability);
      // get ramdom sample with probability
      var probabilitySum = samples.reduce((cache:number, v, i, array)=> cache + v.probability, 0);
      var random = Math.random() * probabilitySum;
      var selected;
      for (var i = 0; i < samples.length; i++) {
        var sample = samples[i];
        random -= sample.probability;
        if (random < 0) {
          selected = sample;
          break;
        }
      }
      if (!sample) {
        break;
      }

ループ上限を50回として10回文章生成した

K=0

  • 安倍晋三首相は25日のNHK番組で、今年発表する戦後70年の村山富市首相談話について、「過去の植民地支配と侵略への反省」を明記した。「今までの
  • 安倍晋三首相は25日のNHK番組で、今年発表する戦後70年の首相談話の表現を変更する可能性に言及した。「今まで使った言葉を使わなかった』『新しい
  • これに対し、民主党岡田克也代表は「植民地支配と侵略への反省」を明記した戦後50年の首相談話の表現を変更する可能性に言及した。「今までのスタイルを
  • 同時に「今まで重ねてきた文言を使うかどうかではなく、安倍政権としてどう考えているのかという観点で出したい」と述べた。「今までのスタイルを下敷きにして
  • 同時に「今までのスタイルを下敷きにして書くとなれば『今まで重ねてきた文言を使うかどうかではなく、安倍政権としてどう考えているのかという観点で出したい」
  • これに対し、民主党岡田克也代表は「植民地支配と侵略への反省」を明記した首相の発言は許せない」と述べた。「今までのスタイルを下敷きにして書くとなれば
  • 安倍晋三首相は25日のNHK番組で、今年発表する戦後70年の首相談話の表現を変更する可能性に言及した。「今まで重ねてきた文言を使うかどうか
  • 安倍晋三首相は25日のNHK番組で、今年発表する戦後70年の首相談話の表現を変更する可能性に言及した。「今までのスタイルを下敷きにして書くとなれ
  • 安倍晋三首相は25日のNHK番組で、今年発表する戦後70年の首相談話の表現を変更する可能性に言及した。「今まで重ねてきた文言を使うかどうか
  • 安倍晋三首相は25日のNHK番組で、今年発表する戦後70年の首相談話の表現を変更する可能性に言及した首相の発言は許せない」と述べた。「今まで

この程度のコーパスではN-gramだけだとやはり同じ文章が出てくる。その代わり文章の精度自体はほぼ完璧である。

K=0.1

  • 同時に言葉が文言がした文言を、過去指摘する今5、日のNHK政権とした文言へ首相に番組に7今年批判する可能性と表現したスタイルが文言と首相へ「過去
  • 同時に文言に『過去の反省」に反省した。「今までの文言談話という、『戦後の発表と植民した。「今の侵略は「植民地発言や談話をどうへした首相
  • 同時に7戦後表現する今0三日の首相談話の批判は「植民地支配や反省を支配したこととした今2、日のNHK番組で、今年発表する戦後20年の首相
  • 同時に言葉が5今年発表する戦後05日の岡田克也代表は「植民地明記と植民が議論した首相の代表に侵略した首相と首相に「今までのスタイルを同時でした
  • これに対し5『今までのスタイルを下敷きにして書くとなれば『今までのスタイルを入った』「新しい下敷きをスタイルと出したい」と支配した。「今までの言葉侵略として7
  • 安倍晋下敷き植民の代表に批判した議論がの植民地植民や侵略を言及した首相の発言は許せない」と述べた。「今までの首相で使うかどうかではなく、安倍
  • 安倍晋5首相は50年の村山富市言及は『明記性支配や支配と侵略した。「今までのスタイルを番組が同時へ出したい」と指摘。
  • これに対し2「過去の植民へどうをして書くとなれば『過去まで述べてきた文言を番組とスタイルで言葉へ使うかどうかとはなく、安倍政権としてどう考えているのか
  • 言葉に5戦後植民する今、0年の首相談話の表現を談話した変更に表現した首相の支配をの言及に植民した。「今までの政権談話の侵略を明記する今0
  • 安倍晋文言発言という0「戦後までのスタイルでした。「今までのスタイルに首相と言葉を0今発言する今、、年の首相発表の発言』で表現した。「今の明記

ここで注目すべきは「安倍晋5首相」である。「晋三」の「三」が数字になっていて全角の数字がものすごく厄介な接続を生み出している。

K=0.2

  • 安倍晋植民は『発表性発言と発表を代表した。「今年の明記に議論した戦後5、年の首相表現の植民地支配と反省をこまごまにした戦後50年の村山晋
  • 政権で5今表現する過去、2年のスタイルを下敷きに「今までの首相を文言が、今反省する戦後7三年の村山晋発言は「侵略地侵略や言及にどうにした談話
  • 村山克也反省は「植民地代表や植民と指摘する戦後、5日の首相で首相とした首相の発言は許せない」と支配。
  • これという5どうがした首相と7今発表する戦後、2日のNHK首相が文言を使うかどうかをはなく、安倍首相に対しどう述べているのかに対し首相と、戦後指摘する今年
  • 安倍富市変更は許せない」と述べた。「今までのスタイル侵略の表現を支配した侵略を植民した。「今までの首相変更の指摘が支配した。「今までのスタイルを
  • 安倍晋首相表現に対し、民主党岡田克也2政権は、0年の首相発言の発表は「支配地発表と植民でどうにしたこととした言及と明記した戦後、、年の文言
  • 安倍晋5首相は三、年の首相談話の変更をの変更で指摘した過去7、年の首相で使わなかった』という0「戦後の侵略は『表現性議論と変更をこまごまにし
  • 政権で首相で『過去までの文言に「今までの下敷きを政権をした談話が発言する戦後70日の言葉指摘の明記は「談話地批判と代表とこまごまがした首相の発言
  • 言葉を使わなかった」という、こまごまとした。「今まで使った首相の変更」を植民した。「今までの首相を使わなかった」として、「今までのスタイルを首相がし
  • 安倍晋支配は「変更性批判や植民になる」と述べた。「戦後までの首相をした植民をの明記は「談話性発言や明記と植民した。「今年までの観点侵略の

やはり「晋三」が固有名詞になっていないことに起因するめちゃくちゃな結合が多発している。

K=0.3

  • 安倍克也0言葉は70年の観点変更として2NHKの岡田晋反省は「植民地変更と言及をどうをした首相で番組で、過去表現する戦後77年の観点を『過去の
  • これについて三「過去の植民は『発言地議論と談話に植民した首相に出したい」と指摘した批判で談話した。「今まで考えばきた政権が首相へ5今発言する
  • 文言で、戦後発言する今年70年の言葉発表の批判で侵略する可能地に談話した戦後、2日の言葉で「今までの首相を三過去談話する可能性に発言した。
  • 岡田克也文言議論という三どうをした侵略と批判。
  • 安倍晋植民は『言及地表現や表現へ支配した。「今までの首相にスタイルと政権と下敷きとした首相でした議論と発言した。「今の反省にの支配が言及
  • 同時に首相で首相で下敷きに、今支配する今07日の首相談話の植民への植民との侵略をの植民との侵略地植民や表現とどうをした言及との談話での
  • 安倍晋三首相は25日の岡田克也言葉指摘の変更は『侵略地議論や支配でなる」と指摘した。「今までの言葉反省の談話」を談話した植民になる」と
  • 安倍晋下敷き明記に対し、こまごまとした。「今までの番組批判の侵略がこまごまとした侵略がの表現をどうでした。「過去の植民地議論や変更でこまごまでした明記
  • 同時に観点を0戦後侵略する今三、日のNHK下敷きを5今植民する今、0年の首相変更として、『戦後の発言は「植民性変更と植民を反省した戦後7、年
  • 安倍晋三首相は三0年の首相指摘の植民をの発言は許せない」と重ねた。「今までの文言と5今変更する今、、日の首相に首相へ使うかどうかで

K=0.5

  • 岡田晋三首相は三、日の下敷き代表の議論にの侵略は「言及地植民や反省をなる』と変更。
  • これとして、『今年まで述べてきた番組の植民を明記した首相に首相に言葉に、今侵略する可能性に表現した議論への変更性植民や言及が侵略した戦後70
  • 同時に、今言及する戦後52年の言葉で首相に7今指摘する今72日の民主党言葉を「今まで考えてきた下敷きでスタイルへ同時と首相と出したい』と表現。
  • 同時が2今議論する戦後、0年の首相言及の侵略での変更を明記した明記で侵略した首相の発言を談話した。「過去の指摘をの批判』を明記した。
  • 文言を使うかどうかにはなく0岡田文言についてどう述べてきた言葉と番組に入った』「新しい文言をした。『戦後までの首相変更として5『今まで使った首相の発表
  • 言葉を、今議論する戦後、、年の首相発表の支配地反省や代表が議論した支配への支配は「変更性談話や発言に植民した首相で番組で下敷きでした。「
  • これに対し、NHKの岡田晋植民は『言及地支配との侵略とどうをした今、5年の観点変更の議論との批判』と談話した首相にした今年0三年の首相
  • 首相を、今議論する戦後、0年の首相を首相で入った』『新しい言葉で、今代表する今02年の文言反省の植民をの支配は『談話地議論や植民と支配し
  • 文言で7戦後指摘する過去、5年の首相発言の議論に表現する戦後、7日の言葉と「今までの言葉で言葉に使わなかった』という三どうをした首相へ、過去侵略
  • 言葉に入った』『新しい文言に番組が首相に「過去までの首相を同時と番組を首相がした今75日の下敷きへ使わなかった』『新しい首相へ下敷きに政権へ政権へ

K=0.8

  • 首相を、過去指摘する戦後、、日の言葉明記の談話性指摘や反省への侵略で談話した。『戦後まで重ねばきた言葉に0今談話する今、0日の首相とし
  • 首相をした。「戦後の談話」が言及した。「過去までの同時侵略の支配が植民した番組が2戦後植民する今年0、年の言葉に0今年表現する戦後5、年
  • 村山晋政権指摘の表現を代表した首相と首相が0今年指摘する可能性と言及した侵略に議論した談話が談話した首相の侵略に変更したことにした首相でし
  • 首相を同時にした。「今の指摘は「言及性植民と支配が談話する今、、年の村山富市首相発言の表現性侵略や植民での発表」に植民した。「今の
  • 村山晋0言葉は、、年の首相と言葉にして書くとなれば「今までの番組発表として0「今までの観点反省の支配を談話した。「今までの首相に入った
  • 首相を「今年までの同時批判の批判で批判した議論を明記した。「戦後の侵略と反省した今77年の首相と「過去の批判への支配」と植民する今年、
  • これという、「今年までの言葉で番組を、戦後表現する戦後、三年のNHK政権を番組を使うかどうかではなく、安倍文言としてこまごま重ねばいることかという言葉を文言と首相
  • 言葉に文言を0戦後発言する戦後7三日の村山克也明記は『発言性談話や代表をの批判を談話する今年、、年の首相言及という0どうとした。「今までの下敷き
  • 安倍富市、首相は三0年の安倍克也支配は許せない」と述べた。『過去の表現』で談話した変更を明記した下敷きで同時がした変更にの談話に言及する今年
  • 文言を5今侵略する過去、、年の言葉談話の代表で植民したのでした談話での発表にの談話は許せない」と述べた。『今年の植民」を侵略したスタイル

K=1.0

  • 安倍晋首相談話という5『戦後まで考えているのかとして首相を三今談話する戦後三0日の言葉談話の支配は「代表地批判と植民で侵略した首相へ観点で、今年表現
  • 言葉と使うかどうかにはなく5岡田首相についてこまごま述べてきた政権が、今年議論する戦後、7年の政権談話という5民主党の岡田富市0言葉は0、年の観点に使わなかっ
  • 首相で首相が「今の支配』を変更した過去、三年の番組に出したい」と支配した。『今年の支配がどうとした戦後、7日の政権植民という0「今
  • 観点でした。「今までの番組がした言葉を政権へ使わなかった」について5『今までのスタイル表現として三「過去の談話とこまごまがして書くとなれて「過去までの
  • スタイルがした。『今の言及をどうにした明記へ支配した発表と侵略した発表で植民した首相へ「過去の植民』を明記した反省が議論した。「今
  • スタイルに、戦後明記する今、三年の安倍晋7下敷きは7、年の観点をした植民を談話した今年、0年の同時表現の植民地支配や変更を指摘した反省が
  • 番組と『戦後の植民へ発言する戦後0、年の首相を、過去発言する今、、年の村山晋下敷き侵略という、NHKの村山克也、言葉は、、年の下敷き侵略の談話は『
  • 安倍克也同時植民という5こまごまがした下敷きの発言をこまごまがした番組と5今反省する戦後27年の下敷き植民の指摘とこまごまとして書くとなれて「戦後の植民での
  • 首相が、過去植民する今、7年の村山晋0観点は05年の観点が、過去植民する今、5日の首相侵略について、こまごまがした発表へ明記する戦後2、年の
  • 下敷きと使わなかった』として三どうがした。『戦後までの政権変更という2どうをした今年20年の首相で「今の植民に議論した談話に議論した。『戦後

結論

K=0.2ですでにキツイ。K=0~0.2の間でいいところ見つけないといけない感じがする。