日本独角兽自研LLM 日政府补贴提升AI运算力3倍

日本企业与官方对于生成式人工智能（Generative AI）与大型语言模型（LLM）的研发正在加强。日本AI独角兽Preferred Networks（PFN）表示，已着手研发大规模语言模型，最快2024年商用化。另外日本政府也补助日本网通公司建构超级电脑，以提升研发生成式AI所需的运算力。

Preferred NetworksCEO西川彻在一场资通讯展示会上指出，Preferred Networks正在研发大规模语言模型，且强调并不希望只是重现既有的语言模型，而是要能整合声音与影像等复合数据并加以使用，建构多模态（Multimodal）AI模型。

Preferred Networks自行研发的大规模语言模型，参数规划为70亿~130亿个，预计2023年秋开始进行实验验证，最快2024年参数可扩大到1,000亿个并加以商用化。

相较之下，OpenAI的GPT-3从2020年开发至今参数达1,750亿个，远超过Preferred Networks尚未达成的目标。不过，Preferred Networks设定的应用场景不是泛用型，而是专门领域使用，以做出市场区隔。

Preferred Networks会使用自研芯片来进行运算。Preferred Networks已开发出深度学习用芯片MN-Core与MN-Core2。

此外，日本政府正设法透过补贴的方式，加快扩充AI算力。

网通公司Sakura Internet即将建构一台用于AI开发的超级电脑，兴建完成后，日本的AI研发用运算能力可提升为目前的3倍。

目前日本AI研发所使用的运算力，来自官方研究机构产业总合研究所（AIST）的超级电脑ABCI，经由云端提供3,000个企业与研究者使用。

Sakura Internet建构新超级电脑的计划，获得日本经产省补助，条件是必须透过云端提供新创研发生成式AI所需的运算资源。

Sakura Internet的超级电脑将搭载2,000颗以上的NVIDIA GPU，设置于日本北海道的石狩市，兴建经费135亿日圆，其中68亿日圆由日本经产省补贴。

目前日厂之中，已宣布要自行研发生成式AI的厂商，除了Preferred Networks之外，还有NTT、NEC、CyberAgent、东京工业大学与富士通等。