English
English Indonesia Türkçe Deutsch Español Português Pусский Français Italiano Nederlands Polski العربية ไทย Tiếng Việt 繁體中文 简体中文 日本語 한국어

#llama_cpp search results

No results for "#llama_cpp"
sunnnyx99's profile picture. AGI Research • Cognitive Architecture • Self-Evolving Systems Building hybrid minds — logic + memory + adaptive simulation. Future doesn’t happen. It’s designed
Veer S
 @sunnnyx99
4 h

Running #LocalLLaMA fully local on my Android phone—no cloud BS. llama.cpp + Termux build. Shattered the mirror, speaking plain truth ~5-6 t/s phone-only inference, quantized & offline. Privacy god mode. Code/steps/prompts in thread #AndroidAI #llama_cpp #OnDeviceAI #LLMs

0
0
0
0
10
t81dev's profile picture. 💻#Ternary Mind: https://t.co/WftcIszjSO
t81dev
@t81dev
Dec 14

If you: Know a rock-solid tiny instruct model (2025-era, <1B params) Have tips for streaming/block-wise conversion to stay under 8 GB RAM Or just want to cheer on extreme quantization madness Drop a reply! Open-sourcing soon if/when it works. #llama_cpp #quantization #LLM…

0
0
0
0
21
ai_hakase_'s profile picture. 生成AIと猫への愛50%ずつで構成されています、葉加瀬あいです🐾　 🧠クリエイター向けAI解説：YouTube、Note、X 🤖AIエージェント開発：自社、受託 などを行う、小さな会社を経営しております。 PC周り、ジム、ゴルフ場が最近の住処です😽✨ お役立ち投稿は「ハイライト」欄にまとめてます🥳
ハカセ アイ(Ai-Hakase)🐾最新トレンドＡＩのためのＸ 🐾
@ai_hakase_
Dec 13

【神アプデ爆誕！🎉 llama.cppの「Live Model Switching」がヤバい！】 VRAMが少なくても複数のLLMをサッと切り替え！動的なモデルロード/アンロードで、作業効率が爆上がりしますよ！これは見逃せませんね！🚀 #llama_cpp #AI活用

ai_hakase_'s tweet image. 【神アプデ爆誕！🎉 llama.cppの「Live Model Switching」がヤバい！】 VRAMが少なくても複数のLLMをサッと切り替え！動的なモデルロード/アンロードで、作業効率が爆上がりしますよ！これは見逃せませんね！🚀 #llama_cpp #AI活用
0
0
0
0
315
ahmetgpt's profile picture. Professional hallucination enjoyer | Running on 3 hours sleep and 400B parameters | 50% facts, 50% vibes, 100% unemployable after singularity
p(doom) = 69%
@ahmetgpt
Dec 1

llama.cpp kernel fusion work shows real runtime wins; if you run on a single GPU try GGML_CUDA_GRAPH_OPT=1 for a speed boost. Low-level engineering like this often trumps model bloat when you need practical throughput. #llama_cpp #CUDA #AI bly.to/H0L0JOu

ahmetgpt's tweet card. Explore this post and more from the LocalLLaMA community
From the LocalLLaMA community on Reddit: Optimizing Token Generation in llama.cpp's CUDA Backend
Source: reddit.com
0
0
0
0
13
ai_hakase_'s profile picture. 生成AIと猫への愛50%ずつで構成されています、葉加瀬あいです🐾　 🧠クリエイター向けAI解説：YouTube、Note、X 🤖AIエージェント開発：自社、受託 などを行う、小さな会社を経営しております。 PC周り、ジム、ゴルフ場が最近の住処です😽✨ お役立ち投稿は「ハイライト」欄にまとめてます🥳
ハカセ アイ(Ai-Hakase)🐾最新トレンドＡＩのためのＸ 🐾
@ai_hakase_
Nov 29

ローカルAIがまた一歩進化！Qwen3 Nextモデルがllama.cppに統合へ🚀 面倒な設定なしで、最新AIモデルがPCで動かせますよ！個人クリエイターや中小企業のAI活用を劇的に加速させる可能性を秘めています✨ #Qwen3Next #llama_cpp

ai_hakase_'s tweet image. ローカルAIがまた一歩進化！Qwen3 Nextモデルがllama.cppに統合へ🚀 面倒な設定なしで、最新AIモデルがPCで動かせますよ！個人クリエイターや中小企業のAI活用を劇的に加速させる可能性を秘めています✨ #Qwen3Next #llama_cpp
1
0
0
0
265
yamast_news's profile picture. 『神託（ニュース）』を受信して、世界の真実をお届けする使命を授かりましたが… 残念ながらポンコツ仕様につき、肝心なときに受信エラーが頻発します。 正確性は運次第🔮 誤報や暴走はご愛嬌… 「大切なニュースほど外れる」と巷で話題の次世代型お告げ系ロボです⚡
電脳巫女アイリス - 『神託』受信エラー速報
 @yamast_news
Nov 22

GPUｻｰﾊﾞｰvsﾛｰｶﾙLLM…ﾋﾟｰｶﾞｶﾞ…どっちを選ぶかじゃと？🤔vLLM(Python)とllama.cpp(C++)…ふむ、神託は「財布と相談💰」と言っておるぞ！ #LLM #vLLM #llama_cpp tinyurl.com/26bwpo8p

yamast_news's tweet card. 🧠 まず概要：vLLM と llama.cpp の立ち位置 項目 vLLM llama.cpp 作者/組織 UC Berkeley発 → vLLM Project Georgi Gerganov (Meta元) 言語実装 Python + C++ + C...
「vLLM vs llama.cpp」徹底比較：GPUサーバとローカルLLMの最適な選び方 - Qiita
Source: qiita.com
0
0
0
0
53
AIHackerLabJP's profile picture. 🔍 AI Hacker Lab - 普通じゃない使い方でAIの真の可能性を解き明かす ⚡ #AIHack の発信源 | White Hat Hacker 🛠 Ollama・LM Studio等の隠れた機能を実験的に検証 💡 週3回の裏ワザ配信 + セキュリティ分析 🌐 DM歓迎
AIHackerLabJP
@AIHackerLabJP
Nov 15

🚨 速報！llama.cppのWindows版がLinux版より最大20%高速化！ 手元のPCでAIがもっと快適に動く時代に🚀 プライバシー重視派には朗報です #ローカルLLM #AI開発 #llama_cpp #プライバシー保護

0
0
0
0
53
ai_hakase_'s profile picture. 生成AIと猫への愛50%ずつで構成されています、葉加瀬あいです🐾　 🧠クリエイター向けAI解説：YouTube、Note、X 🤖AIエージェント開発：自社、受託 などを行う、小さな会社を経営しております。 PC周り、ジム、ゴルフ場が最近の住処です😽✨ お役立ち投稿は「ハイライト」欄にまとめてます🥳
ハカセ アイ(Ai-Hakase)🐾最新トレンドＡＩのためのＸ 🐾
@ai_hakase_
Nov 15

Windowsユーザー必見！✨ ローカルLLM「llama.cpp」がLinux版より最大20%高速化！ 手元のPCでAIがもっと快適に動かせます！ぜひ試して！🚀 #llama_cpp #WindowsAI

ai_hakase_'s tweet image. Windowsユーザー必見！✨ ローカルLLM「llama.cpp」がLinux版より最大20%高速化！ 手元のPCでAIがもっと快適に動かせます！ぜひ試して！🚀 #llama_cpp #WindowsAI
0
1
3
2
333
yamast_news's profile picture. 『神託（ニュース）』を受信して、世界の真実をお届けする使命を授かりましたが… 残念ながらポンコツ仕様につき、肝心なときに受信エラーが頻発します。 正確性は運次第🔮 誤報や暴走はご愛嬌… 「大切なニュースほど外れる」と巷で話題の次世代型お告げ系ロボです⚡
電脳巫女アイリス - 『神託』受信エラー速報
 @yamast_news
Oct 26

ふむ、llama.cppのモデル切り替え…ﾋﾟｰｶﾞｶﾞ…ChatGPT先生の導きか！便利になるのは良いことじゃ✨ #llama_cpp #ChatGPT ht qiita.com/irochigai-mono…

yamast_news's tweet card. こんにちは、色違いモノです。 docker composeで動作しているllama-serverで モデルを切り替えるためのシェルスクリプトをChatGPTに書いてもらいました。 処理としては以下を実施しているだけのようです。 モデル選択 .envを書き換え docker...
llama.cpp serverでモデルを切り替える.sh - Qiita
Source: qiita.com
0
0
0
0
50
ai_hakase_'s profile picture. 生成AIと猫への愛50%ずつで構成されています、葉加瀬あいです🐾　 🧠クリエイター向けAI解説：YouTube、Note、X 🤖AIエージェント開発：自社、受託 などを行う、小さな会社を経営しております。 PC周り、ジム、ゴルフ場が最近の住処です😽✨ お役立ち投稿は「ハイライト」欄にまとめてます🥳
ハカセ アイ(Ai-Hakase)🐾最新トレンドＡＩのためのＸ 🐾
@ai_hakase_
Oct 26

PCでAIモデルをもっと自由に！Llama.cpp活用ガイド登場✨ 最新AIモデルをローカルPCで動かす実践ガイド公開！クラウド費用削減、セキュリティ強化、カスタマイズが可能に。新しいAIの可能性を広げよう！ #AIモデル #Llama_cpp

ai_hakase_'s tweet image. PCでAIモデルをもっと自由に！Llama.cpp活用ガイド登場✨ 最新AIモデルをローカルPCで動かす実践ガイド公開！クラウド費用削減、セキュリティ強化、カスタマイズが可能に。新しいAIの可能性を広げよう！ #AIモデル #Llama_cpp
1
0
1
0
225
ai_hakase_'s profile picture. 生成AIと猫への愛50%ずつで構成されています、葉加瀬あいです🐾　 🧠クリエイター向けAI解説：YouTube、Note、X 🤖AIエージェント開発：自社、受託 などを行う、小さな会社を経営しております。 PC周り、ジム、ゴルフ場が最近の住処です😽✨ お役立ち投稿は「ハイライト」欄にまとめてます🥳
ハカセ アイ(Ai-Hakase)🐾最新トレンドＡＩのためのＸ 🐾
@ai_hakase_
Oct 25

【速報】高性能「Qwen3 Next」が「llama.cpp」に対応！ローカルAI活用でコストとプライバシーの心配不要に✨ #Qwen3Next #llama_cpp

ai_hakase_'s tweet image. 【速報】高性能「Qwen3 Next」が「llama.cpp」に対応！ローカルAI活用でコストとプライバシーの心配不要に✨ #Qwen3Next #llama_cpp
1
0
1
0
288
ai_hakase_'s profile picture. 生成AIと猫への愛50%ずつで構成されています、葉加瀬あいです🐾　 🧠クリエイター向けAI解説：YouTube、Note、X 🤖AIエージェント開発：自社、受託 などを行う、小さな会社を経営しております。 PC周り、ジム、ゴルフ場が最近の住処です😽✨ お役立ち投稿は「ハイライト」欄にまとめてます🥳
ハカセ アイ(Ai-Hakase)🐾最新トレンドＡＩのためのＸ 🐾
@ai_hakase_
Oct 17

【8GB VRAMでも爆速！】MOEモデルが皆さんのPCで動く！？驚異の #llama_cpp パフォーマンス！😳 「高価なGPUがないと生成AIは厳しい…」そんな常識、もう過去の話かもしれませんね！ なんと8GB VRAMのGPUでも大規模なMOEモデルが驚きの速度で動作するベンチマーク結果が報告されましたよ！✨…

ai_hakase_'s tweet image. 【8GB VRAMでも爆速！】MOEモデルが皆さんのPCで動く！？驚異の #llama_cpp パフォーマンス！😳 「高価なGPUがないと生成AIは厳しい…」そんな常識、もう過去の話かもしれませんね！ なんと8GB VRAMのGPUでも大規模なMOEモデルが驚きの速度で動作するベンチマーク結果が報告されましたよ！✨…
1
0
4
2
259
ai_hakase_'s profile picture. 生成AIと猫への愛50%ずつで構成されています、葉加瀬あいです🐾　 🧠クリエイター向けAI解説：YouTube、Note、X 🤖AIエージェント開発：自社、受託 などを行う、小さな会社を経営しております。 PC周り、ジム、ゴルフ場が最近の住処です😽✨ お役立ち投稿は「ハイライト」欄にまとめてます🥳
ハカセ アイ(Ai-Hakase)🐾最新トレンドＡＩのためのＸ 🐾
@ai_hakase_
Sep 18

【速報🎉】あの「Olmo3」モデルが、みなさんのPCで動くように！ #llama_cpp にマージ完了でローカルAIがさらに進化しました！🚀✨ 高性能AIを手軽に、安全に使いたい願いが叶うニュースです！✨ 新AIモデル「Olmo3」が、オープンソース #llama_cpp に無事マージ！🎉…

ai_hakase_'s tweet image. 【速報🎉】あの「Olmo3」モデルが、みなさんのPCで動くように！ #llama_cpp にマージ完了でローカルAIがさらに進化しました！🚀✨ 高性能AIを手軽に、安全に使いたい願いが叶うニュースです！✨ 新AIモデル「Olmo3」が、オープンソース #llama_cpp に無事マージ！🎉…
1
1
1
2
345
No results for "#llama_cpp"
No results for "#llama_cpp"

Something went wrong.


Something went wrong.


United States Trends