![[PukiWiki]](image/wadanyan.png "[PukiWiki]")
#author("2018-09-13T18:49:16+09:00","","") #author("2018-09-22T18:46:03+09:00","","") [[宮崎]] *9月22日 [#k94c3417] -パラレルでスクリプトを実行 -stackoverflowのデータを取得 *9月13日 [#k94c3417] -DONE --類義語特定のための処理を実装 ---シソーラス（SE，IEEE） ---分散表現手法（word2vec,fasttext,glove） --比較実験を実施中 ---単語の類似度の閾値を変動して比較を行っている状況 -TODO --分類結果の分析 ---文章の単語の分布 ---単語の類似度の変動による類義語の変化と分類への影響 ---分類ができた文とできなかった文の単語の関係 #comment(below); *9月5〜9日 [#k94c3417] -パラメータ（ベクトルサイズ，ウィンドウ幅，単語最小出現回数，ネガティブサンプリング数）を変動させてベクトルの精度を比較 --ベクトルサイズはあまり影響なし，ウィンドウ幅，最小出現回数が影響ありそう（ウィンドウ幅4~6，最小出現回数5~10ぐらいがまし？） -word2vec，fasttext，SEシソーラス有り無しで実験（&attachref(result.xlsx);） --精度が悪かったAvailavilityでは精度が向上 --残りのセキュリティ要件では，Recallが向上したが，PrecisonとFscoreがそれぞれ低下．．． --SEシソーラスのみの場合は，誤差程度の変動 #comment(below); *9月4日追加 [#k94c3417] -word2vecのみの結果 --"software"の類似単語トップ ---hosting, 0.929 ---connecting, 0.927 ---implement, 0.925 ---operationa', 0.921 ---equipment, 0.921 -単語の意味自体は全く違うが，要求文書内での使われ方という点では似ている？ ---hostingは元データ中"organisations hosting component"という形式でよく出現 ---connectingは"organisations connecting"という形式で出現 *9月4日 [#k94c3417] -前処理の追加 --箇条書きの記号の除去 ---(a),1.など --接頭辞をくっつける正規表現の追加 ---co-ordination→coordination -全データを用いて学習した場合のベクトルの精度の確認（類似単語トップ5） -例）authorized --word2vec（単語，類似度） ---legitimate, 0.944 ---registered, 0.934 ---capable, 0.918 ---grant, 0.898 ---authenticated, 0.896 --fasttext（単語，類似度） ---unauthorized, 0.984 ---author, 0.925 ---authenticated, 0.907 ---authorization, 0.899 ---capable, 0.877 --glove（単語，類似度） ---modify, 0.890 ---mechanism, 0.883 ---receive, 0.869 ---indicate, 0.868 ---hospital, 0.859 -word2vecの方が類義語をとってきている印象 -fasttextは同じ語幹の単語をとってきている，文字列の類似度がきいている #comment(below); - 他の単語の類似度も見てみましたが，うまく言ってそうなのはわずかです．．．類義語は同じ品詞のものに限定するという条件をつけた方がまだマシのような気がしますが，作為的なような．．． -- &new{2018-09-04 (火) 23:24:25}; - ステミングだと周辺単語がバラバラになってより悪くなります． -- &new{2018-09-04 (火) 23:23:09}; - 今回のアウトプットはレマタイズを適用した場合です． -- [[宮崎]] &new{2018-09-04 (火) 23:21:15}; - ステミング，レマタイズがちゃんとできてない？ -- &new{2018-09-04 (火) 21:55:49}; - オモロイけどauthorizedだけじゃなぁ -- &new{2018-09-04 (火) 21:53:09}; *9月3日 [#k94c3417] -既存手法の実装 --学習データとテストデータは8:2でランダムに -word2vec, fasttext, gloveで単語の類似度を計算する処理を追加 --学習データ：分類器作成の学習データと全く同じ --類似度の計算はテストデータも含めて行う -シソーラス処理の実装 -ベクトルの精度を確認 --少し見てみたがかなり怪しい．．． --記号の除去などの前処理を変更する --パラメータを変えて実験してみる #comment(below); *8月30日 [#k94c3417] -既存研究のサーベイ --最近傍法，SVO，Naive Bayesで分類 ---最近傍法＋3つの分類結果の多数決が精度よい --対象データはマルチラベル，それぞれ分類器を作成 ---原文"Since the Weka classifiers do not natively support multiple classifications for an item, we created individual classifiers for each algorithm and classification. " -Gloveのサーベイ --共起関係と周辺単語の情報を用いた分散表現手法 --最小二乗法を使っている，細かい数式は理解できず．．． #comment(below); *8月29日 [#j30f66a5] -既存手法の実装 --Naive Bayes --SVM -一般的な前処理を考えた --頻出単語の除去 --Nグラム？ --ステミング or レマタイズ -類義語特定のための処理 --シソーラスの利用 ---Wordnetのような一般的なシソーラス ---ソフトウェア開発用のシソーラス（福井が紹介していた？） --分散表現の利用 ---Word2Vec ---fasttex（周辺単語の類似度＋文字列の近さも評価） ---Globe（単語の共起関係を用いる） #comment(below); - なんもオリジナリティがない -- &new{2018-08-31 (金) 15:12:45}; *X月X日 [#j30f66a5] #comment(below);
