いろいろなツールを使いこなそう！Ｍａｃで楽しいプログラミング〜ｌｌａｍａ．ｃｐｐで大規模言語モデルを量子化する
日経ソフトウェア　第297号　2025.1.1

この記事の情報
掲載誌	日経ソフトウェア　第297号（2025.1.1）
ページ数	10ページ　（全8181字）
形式	PDFファイル形式　（7371kb）
雑誌掲載位置	120〜129ページ目

第４回　「Ａｐｐｌｅシリコン」搭載のＭａｃなら、ローカル環境で大規模言語モデル（ＬＬＭ）を簡単に動かせます。前回は、ローカルＬＬＭサーバー（ＬＬＭで推論を行うサーバー）の「Ｏｌｌａｍａ」を利用して、「Ｌｌａｍａ　３．１」などのＬＬＭを動かしました。　今回は初めに、オープンなＬＬＭの共有サイトである「Ｈｕｇｇｉｎｇ　Ｆａｃｅ」を紹介します。Ｈｕｇｇｉｎｇ　Ｆａｃｅからは様々なＬＬＭのファイルを無償で…