CORE
🇺🇦
make metadata, not war
Services
Services overview
Explore all CORE services
Access to raw data
API
Dataset
FastSync
Content discovery
Recommender
Discovery
OAI identifiers
OAI Resolver
Managing content
Dashboard
Bespoke contracts
Consultancy services
Support us
Support us
Membership
Sponsorship
Community governance
Advisory Board
Board of supporters
Research network
About
About us
Our mission
Team
Blog
FAQs
Contact us
BERTによる単語埋め込み表現の分散値を用いた語義の広がりの分析
Authors
Hiroyuki Shinnou
Jing Bai
+8 more
Rui Cao
Wen Ma
Yanghuizi Ou
新納 浩幸
曹 鋭
欧 陽恵子
白 静
馬 ブン
Publication date
1 January 2020
Publisher
国立国語研究所
Abstract
Ibaraki UniversityIbaraki UniversityIbaraki UniversityIbaraki UniversityIbaraki University会議名: 言語資源活用ワークショップ2020, 開催地: オンライン, 会期: 2020年9月8日−9日, 主催: 国立国語研究所 コーパス開発センターBERT が出力する単語の埋め込み表現は,その単語が現れた文の文脈に依存している.このためある単語wの用例を収集し,BERT により得られる単語wに対する埋め込み表現から,それらの分散値を計算すると,その値は単語wの語義の広がりに対応すると考えられる.そこで多義語「頭」「意味」「核」「記録」「言葉」「胸」と単義語「生産」,「政治」,「意識」,「抗議」,「成績」を対象にそれら単語の用例を収集し,分散値の比較を行った.多義語に対しては大きな分散値,単義に対しては小さな分散値が出ることが予想される.またBERT のどの位置の階層が最も語義の広がりに影響しているかも調査した.しかしこれら実験から,上記の分散値では語義の広がりを測定するのは困難であることがわかった.その原因について考察する
Similar works
Full text
Open in the Core reader
Download PDF
Available Versions
Academic Repository of the National Institute for Japanese Language and Linguistics / 国立国語研究所学術情報リポジトリ
See this paper in CORE
Go to the repository landing page
Download from data provider
oai:repository.ninjal.ac.jp:00...
Last time updated on 17/03/2021