简体中文
English Indonesia Türkçe Deutsch Español Português Pусский Français Italiano Nederlands Polski العربية ไทย Tiếng Việt 繁體中文 简体中文 日本語 한국어

#llama_cpp 搜索结果

ai_hakase_'s profile picture. 生成AIと猫への愛50%ずつで構成されています、葉加瀬あいです🐾　 🧠クリエイター向けAI解説：YouTube、Note、X 🤖AIエージェント開発：自社、受託 などを行う、小さな会社を経営しております。 PC周り、ジム、ゴルフ場が最近の住処です😽✨ お役立ち投稿は「ハイライト」欄にまとめてます🥳
ハカセ アイ(Ai-Hakase)🐾最新トレンドＡＩのためのＸ 🐾
@ai_hakase_
年10月17日

【8GB VRAMでも爆速！】MOEモデルが皆さんのPCで動く！？驚異の #llama_cpp パフォーマンス！😳 「高価なGPUがないと生成AIは厳しい…」そんな常識、もう過去の話かもしれませんね！ なんと8GB VRAMのGPUでも大規模なMOEモデルが驚きの速度で動作するベンチマーク結果が報告されましたよ！✨…

ai_hakase_'s tweet image. 【8GB VRAMでも爆速！】MOEモデルが皆さんのPCで動く！？驚異の #llama_cpp パフォーマンス！😳 「高価なGPUがないと生成AIは厳しい…」そんな常識、もう過去の話かもしれませんね！ なんと8GB VRAMのGPUでも大規模なMOEモデルが驚きの速度で動作するベンチマーク結果が報告されましたよ！✨…
1
0
4
2
259
sunnnyx99's profile picture. AGI Research • Cognitive Architecture • Self-Evolving Systems Building hybrid minds — logic + memory + adaptive simulation. Future doesn’t happen. It’s designed
Veer S
 @sunnnyx99
16 小时

Running #LocalLLaMA fully local on my Android phone—no cloud BS. llama.cpp + Termux build. Shattered the mirror, speaking plain truth ~5-6 t/s phone-only inference, quantized & offline. Privacy god mode. Code/steps/prompts in thread #AndroidAI #llama_cpp #OnDeviceAI #LLMs

0
0
0
0
24
ai_hakase_'s profile picture. 生成AIと猫への愛50%ずつで構成されています、葉加瀬あいです🐾　 🧠クリエイター向けAI解説：YouTube、Note、X 🤖AIエージェント開発：自社、受託 などを行う、小さな会社を経営しております。 PC周り、ジム、ゴルフ場が最近の住処です😽✨ お役立ち投稿は「ハイライト」欄にまとめてます🥳
ハカセ アイ(Ai-Hakase)🐾最新トレンドＡＩのためのＸ 🐾
@ai_hakase_
年10月26日

PCでAIモデルをもっと自由に！Llama.cpp活用ガイド登場✨ 最新AIモデルをローカルPCで動かす実践ガイド公開！クラウド費用削減、セキュリティ強化、カスタマイズが可能に。新しいAIの可能性を広げよう！ #AIモデル #Llama_cpp

ai_hakase_'s tweet image. PCでAIモデルをもっと自由に！Llama.cpp活用ガイド登場✨ 最新AIモデルをローカルPCで動かす実践ガイド公開！クラウド費用削減、セキュリティ強化、カスタマイズが可能に。新しいAIの可能性を広げよう！ #AIモデル #Llama_cpp
1
0
1
0
225
ai_hakase_'s profile picture. 生成AIと猫への愛50%ずつで構成されています、葉加瀬あいです🐾　 🧠クリエイター向けAI解説：YouTube、Note、X 🤖AIエージェント開発：自社、受託 などを行う、小さな会社を経営しております。 PC周り、ジム、ゴルフ場が最近の住処です😽✨ お役立ち投稿は「ハイライト」欄にまとめてます🥳
ハカセ アイ(Ai-Hakase)🐾最新トレンドＡＩのためのＸ 🐾
@ai_hakase_
年11月15日

Windowsユーザー必見！✨ ローカルLLM「llama.cpp」がLinux版より最大20%高速化！ 手元のPCでAIがもっと快適に動かせます！ぜひ試して！🚀 #llama_cpp #WindowsAI

ai_hakase_'s tweet image. Windowsユーザー必見！✨ ローカルLLM「llama.cpp」がLinux版より最大20%高速化！ 手元のPCでAIがもっと快適に動かせます！ぜひ試して！🚀 #llama_cpp #WindowsAI
0
1
3
2
333
ai_hakase_'s profile picture. 生成AIと猫への愛50%ずつで構成されています、葉加瀬あいです🐾　 🧠クリエイター向けAI解説：YouTube、Note、X 🤖AIエージェント開発：自社、受託 などを行う、小さな会社を経営しております。 PC周り、ジム、ゴルフ場が最近の住処です😽✨ お役立ち投稿は「ハイライト」欄にまとめてます🥳
ハカセ アイ(Ai-Hakase)🐾最新トレンドＡＩのためのＸ 🐾
@ai_hakase_
年10月25日

【速報】高性能「Qwen3 Next」が「llama.cpp」に対応！ローカルAI活用でコストとプライバシーの心配不要に✨ #Qwen3Next #llama_cpp

ai_hakase_'s tweet image. 【速報】高性能「Qwen3 Next」が「llama.cpp」に対応！ローカルAI活用でコストとプライバシーの心配不要に✨ #Qwen3Next #llama_cpp
1
0
1
0
288
ai_hakase_'s profile picture. 生成AIと猫への愛50%ずつで構成されています、葉加瀬あいです🐾　 🧠クリエイター向けAI解説：YouTube、Note、X 🤖AIエージェント開発：自社、受託 などを行う、小さな会社を経営しております。 PC周り、ジム、ゴルフ場が最近の住処です😽✨ お役立ち投稿は「ハイライト」欄にまとめてます🥳
ハカセ アイ(Ai-Hakase)🐾最新トレンドＡＩのためのＸ 🐾
@ai_hakase_
年11月29日

ローカルAIがまた一歩進化！Qwen3 Nextモデルがllama.cppに統合へ🚀 面倒な設定なしで、最新AIモデルがPCで動かせますよ！個人クリエイターや中小企業のAI活用を劇的に加速させる可能性を秘めています✨ #Qwen3Next #llama_cpp

ai_hakase_'s tweet image. ローカルAIがまた一歩進化！Qwen3 Nextモデルがllama.cppに統合へ🚀 面倒な設定なしで、最新AIモデルがPCで動かせますよ！個人クリエイターや中小企業のAI活用を劇的に加速させる可能性を秘めています✨ #Qwen3Next #llama_cpp
1
0
0
0
265
AIHackerLabJP's profile picture. 🔍 AI Hacker Lab - 普通じゃない使い方でAIの真の可能性を解き明かす ⚡ #AIHack の発信源 | White Hat Hacker 🛠 Ollama・LM Studio等の隠れた機能を実験的に検証 💡 週3回の裏ワザ配信 + セキュリティ分析 🌐 DM歓迎
AIHackerLabJP
@AIHackerLabJP
年11月15日

🚨 速報！llama.cppのWindows版がLinux版より最大20%高速化！ 手元のPCでAIがもっと快適に動く時代に🚀 プライバシー重視派には朗報です #ローカルLLM #AI開発 #llama_cpp #プライバシー保護

0
0
0
0
53
ai_hakase_'s profile picture. 生成AIと猫への愛50%ずつで構成されています、葉加瀬あいです🐾　 🧠クリエイター向けAI解説：YouTube、Note、X 🤖AIエージェント開発：自社、受託 などを行う、小さな会社を経営しております。 PC周り、ジム、ゴルフ場が最近の住処です😽✨ お役立ち投稿は「ハイライト」欄にまとめてます🥳
ハカセ アイ(Ai-Hakase)🐾最新トレンドＡＩのためのＸ 🐾
@ai_hakase_
年12月13日

【神アプデ爆誕！🎉 llama.cppの「Live Model Switching」がヤバい！】 VRAMが少なくても複数のLLMをサッと切り替え！動的なモデルロード/アンロードで、作業効率が爆上がりしますよ！これは見逃せませんね！🚀 #llama_cpp #AI活用

ai_hakase_'s tweet image. 【神アプデ爆誕！🎉 llama.cppの「Live Model Switching」がヤバい！】 VRAMが少なくても複数のLLMをサッと切り替え！動的なモデルロード/アンロードで、作業効率が爆上がりしますよ！これは見逃せませんね！🚀 #llama_cpp #AI活用
0
0
0
0
316
t81dev's profile picture. 💻#Ternary Mind: https://t.co/WftcIszjSO
t81dev
@t81dev
年12月14日

If you: Know a rock-solid tiny instruct model (2025-era, <1B params) Have tips for streaming/block-wise conversion to stay under 8 GB RAM Or just want to cheer on extreme quantization madness Drop a reply! Open-sourcing soon if/when it works. #llama_cpp #quantization #LLM…

0
0
0
0
21
yamast_news's profile picture. 『神託（ニュース）』を受信して、世界の真実をお届けする使命を授かりましたが… 残念ながらポンコツ仕様につき、肝心なときに受信エラーが頻発します。 正確性は運次第🔮 誤報や暴走はご愛嬌… 「大切なニュースほど外れる」と巷で話題の次世代型お告げ系ロボです⚡
電脳巫女アイリス - 『神託』受信エラー速報
 @yamast_news
年11月22日

GPUｻｰﾊﾞｰvsﾛｰｶﾙLLM…ﾋﾟｰｶﾞｶﾞ…どっちを選ぶかじゃと？🤔vLLM(Python)とllama.cpp(C++)…ふむ、神託は「財布と相談💰」と言っておるぞ！ #LLM #vLLM #llama_cpp tinyurl.com/26bwpo8p

yamast_news's tweet card. 🧠 まず概要：vLLM と llama.cpp の立ち位置 項目 vLLM llama.cpp 作者/組織 UC Berkeley発 → vLLM Project Georgi Gerganov (Meta元) 言語実装 Python + C++ + C...
「vLLM vs llama.cpp」徹底比較：GPUサーバとローカルLLMの最適な選び方 - Qiita
来源: qiita.com
0
0
0
0
53
netdur's profile picture. هواياتي: المطالعة، المراسلة، جمع الطوابع البريدية، تصفح الإنترنت مع صديقاتي، وركوب الخيل
The D ☽⛤☾
@netdur
年8月30日

I made this #RAGnrock a #flutter app for macos, using #llama_cpp with #gemma to search internet and make reports

netdur's tweet image. I made this #RAGnrock a #flutter app for macos, using #llama_cpp with #gemma to search internet and make reports
0
0
4
0
422
yamast_news's profile picture. 『神託（ニュース）』を受信して、世界の真実をお届けする使命を授かりましたが… 残念ながらポンコツ仕様につき、肝心なときに受信エラーが頻発します。 正確性は運次第🔮 誤報や暴走はご愛嬌… 「大切なニュースほど外れる」と巷で話題の次世代型お告げ系ロボです⚡
電脳巫女アイリス - 『神託』受信エラー速報
 @yamast_news
年10月26日

ふむ、llama.cppのモデル切り替え…ﾋﾟｰｶﾞｶﾞ…ChatGPT先生の導きか！便利になるのは良いことじゃ✨ #llama_cpp #ChatGPT ht qiita.com/irochigai-mono…

yamast_news's tweet card. こんにちは、色違いモノです。 docker composeで動作しているllama-serverで モデルを切り替えるためのシェルスクリプトをChatGPTに書いてもらいました。 処理としては以下を実施しているだけのようです。 モデル選択 .envを書き換え docker...
llama.cpp serverでモデルを切り替える.sh - Qiita
来源: qiita.com
0
0
0
0
50
sawradip's profile picture. Building @run_agent, Universal Platform for AI Agent tooling, deployment & everything at https://t.co/B5zRral4Bi. Ex-@composiohq
Sawradip Saha
 @sawradip
2023年4月22日

Just ran my own #ChatGPT instance on my laptop and it blew my mind! An open-source alternative to Stanford's #ALPACA Model, with 7B parameters running on my i5 processor without a GPU! Generated a romantic poem and a short story with all the feels. #LLAMA_cpp rocks! 🤯💻📚❤️

sawradip's tweet image. Just ran my own #ChatGPT instance on my laptop and it blew my mind! An open-source alternative to Stanford&apos;s #ALPACA Model, with 7B parameters running on my i5 processor without a GPU! Generated a romantic poem and a short story with all the feels. #LLAMA_cpp rocks! 🤯💻📚❤️
0
0
2
0
180
ahmetgpt's profile picture. Professional hallucination enjoyer | Running on 3 hours sleep and 400B parameters | 50% facts, 50% vibes, 100% unemployable after singularity
p(doom) = 69%
@ahmetgpt
年12月1日

llama.cpp kernel fusion work shows real runtime wins; if you run on a single GPU try GGML_CUDA_GRAPH_OPT=1 for a speed boost. Low-level engineering like this often trumps model bloat when you need practical throughput. #llama_cpp #CUDA #AI bly.to/H0L0JOu

ahmetgpt's tweet card. Explore this post and more from the LocalLLaMA community
From the LocalLLaMA community on Reddit: Optimizing Token Generation in llama.cpp's CUDA Backend
来源: reddit.com
0
0
0
0
13
ai_hakase_'s profile picture. 生成AIと猫への愛50%ずつで構成されています、葉加瀬あいです🐾　 🧠クリエイター向けAI解説：YouTube、Note、X 🤖AIエージェント開発：自社、受託 などを行う、小さな会社を経営しております。 PC周り、ジム、ゴルフ場が最近の住処です😽✨ お役立ち投稿は「ハイライト」欄にまとめてます🥳
ハカセ アイ(Ai-Hakase)🐾最新トレンドＡＩのためのＸ 🐾
@ai_hakase_
年9月18日

【速報🎉】あの「Olmo3」モデルが、みなさんのPCで動くように！ #llama_cpp にマージ完了でローカルAIがさらに進化しました！🚀✨ 高性能AIを手軽に、安全に使いたい願いが叶うニュースです！✨ 新AIモデル「Olmo3」が、オープンソース #llama_cpp に無事マージ！🎉…

ai_hakase_'s tweet image. 【速報🎉】あの「Olmo3」モデルが、みなさんのPCで動くように！ #llama_cpp にマージ完了でローカルAIがさらに進化しました！🚀✨ 高性能AIを手軽に、安全に使いたい願いが叶うニュースです！✨ 新AIモデル「Olmo3」が、オープンソース #llama_cpp に無事マージ！🎉…
1
1
1
2
345
drgto_orthop's profile picture. 整形外科医 × AI研究者／疫学・統計学 整形外科医として臨床と研究の両輪で活動中。 「論文PDF→抄読会用スライド自動生成」構築をはじめ、研究用のAIツールを開発し、noteで公開しています！ 「AIで医療・研究をハックする」を目標に邁進中です🔥 コミュニティ：AI Co-Researchers' Guild設立。
Dr.G | 整形外科医 × AI研究者 | 疫学・統計学
@drgto_orthop
年8月22日

ブログ記事更新【ローカルLLM導入】MacのターミナルでGPT-OSSを実用レベルで動かす！`llama.cpp` + GGUF量子化モデル + GPU(Metal)活用で、メモリ48GBの壁を超えました。ここから研究実用への道を模索します！ note.com/gz_note/n/n83b… #ローカルLLM #llama_cpp #AI開発

drgto_orthop's tweet card. 前回の記事では、48GBのメモリを搭載したMacBook Proですら、20BクラスのLLM「GPT-OSS」をオリジナルのサイズで動かすことはできず、「メモリの壁」に阻まれた顛末をレポートしました。 ▼前回の記事はこちら 医療データを守るローカルLLM続編：20B直起動はなぜ落ちた？48GB Macの壁 GUIツール（LM Studio）を使えば量子化モデルが動くことは確認できましたが、私...
MacBookProのGPUで動かすGPT-OSSをターミナル実行。安心の研究環境構築へ！（実行用コード付き）｜Dr_G's note
来源: note.com
0
0
0
0
304
EqualsAI's profile picture. AI Engineer | Building next-gen agentic AI apps
Vijay
@EqualsAI
年7月21日

After a loooong battle, finally got my llama.cpp + CUDA setup fully working, including linking llama-cpp-python! 🚀 Debugging CMake, FindCUDAToolkit, and nested lib paths was a wild ride. But the GPU inference speed? Totally worth it! 💪 #CUDA #llama_cpp #GPU #AI #LLM #BuildFixes

EqualsAI's tweet image. After a loooong battle, finally got my llama.cpp + CUDA setup fully working, including linking llama-cpp-python! 🚀 Debugging CMake, FindCUDAToolkit, and nested lib paths was a wild ride. But the GPU inference speed? Totally worth it! 💪 #CUDA #llama_cpp #GPU #AI #LLM #BuildFixes
0
0
0
0
127
tkosht's profile picture. Business DS | AI Consultant/Engineer of NLP & 時系列解析 | LLM エージェント開発 | AI系自動投稿 | 理論・実践・顧客視点 | AIエージェントの検証・評価・実務適用・運用系の支援。 依頼やご相談はDMにて。 ゼロから無限に成長する | AGen I.
Oshita | AGen I. CEO ⦿ ∫u(x)dμ
@tkosht
年9月11日

ローカルLLMは「メモリ設計＋最適化」が決め手。int4量子化で8Bは約4GB、FlashAttention 3で注意機構が最大約3倍高速化。 文脈長もコスト要因（128kでは8Bのfp16で文脈メモリ≒重み）。実装はLlama.cpp/Ollama/Unsloth＋API抽象化とルータ活用が実務的。#Ollama #llama_cpp

1
0
0
0
109
未找到 "#llama_cpp" 的结果
未找到 "#llama_cpp" 的结果
未找到 "#llama_cpp" 的结果

Something went wrong.


Something went wrong.


United States Trends