BIGDATAI Telegram 1368
πŸ¦™ go-llama.cpp β€” запускаСм LLM Π² Go Π±Π΅Π· Π»ΠΈΡˆΠ½ΠΈΡ… зависимостСй. Π­Ρ‚ΠΎΡ‚ ΠΏΡ€ΠΎΠ΅ΠΊΡ‚ ΠΏΡ€Π΅Π΄Π»Π°Π³Π°Π΅Ρ‚ минималистичныС Go-Π±ΠΈΠ½Π΄ΠΈΠ½Π³ΠΈ для llama.cpp, позволяя Ρ€Π°Π±ΠΎΡ‚Π°Ρ‚ΡŒ с Π»ΠΎΠΊΠ°Π»ΡŒΠ½Ρ‹ΠΌΠΈ языковыми модСлями прямо ΠΈΠ· Go-ΠΊΠΎΠ΄Π°. Π’ ΠΎΡ‚Π»ΠΈΡ‡ΠΈΠ΅ ΠΎΡ‚ Π΄Ρ€ΡƒΠ³ΠΈΡ… Ρ€Π΅ΡˆΠ΅Π½ΠΈΠΉ, здСсь основная Π»ΠΎΠ³ΠΈΠΊΠ° остаётся Π² C/C++ для максимальной ΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΠΈ, Π° Go выступаСт лишь ΡƒΠ΄ΠΎΠ±Π½ΠΎΠΉ ΠΎΠ±Ρ‘Ρ€Ρ‚ΠΊΠΎΠΉ.

Π˜Π½ΡΡ‚Ρ€ΡƒΠΌΠ΅Π½Ρ‚ выдСляСтся ΠΏΠΎΠ΄Π΄Π΅Ρ€ΠΆΠΊΠΎΠΉ Ρ€Π°Π·Π»ΠΈΡ‡Π½Ρ‹Ρ… бэкСндов β€” ΠΎΡ‚ OpenBLAS Π΄ΠΎ Metal Π½Π° Apple Silicon. ΠŸΡ€ΠΎΠ΅ΠΊΡ‚ ΡƒΠΆΠ΅ ΠΏΠ΅Ρ€Π΅ΡˆΡ‘Π» Π½Π° Π½ΠΎΠ²Ρ‹ΠΉ Ρ„ΠΎΡ€ΠΌΠ°Ρ‚ GGUF, Ρ‡Ρ‚ΠΎ Π΄Π΅Π»Π°Π΅Ρ‚ Π΅Π³ΠΎ совмСстимым с соврСмСнными вСрсиями llama.cpp.

πŸ€– GitHub
❀5



tgoop.com/bigdatai/1368
Create:
Last Update:

πŸ¦™ go-llama.cpp β€” запускаСм LLM Π² Go Π±Π΅Π· Π»ΠΈΡˆΠ½ΠΈΡ… зависимостСй. Π­Ρ‚ΠΎΡ‚ ΠΏΡ€ΠΎΠ΅ΠΊΡ‚ ΠΏΡ€Π΅Π΄Π»Π°Π³Π°Π΅Ρ‚ минималистичныС Go-Π±ΠΈΠ½Π΄ΠΈΠ½Π³ΠΈ для llama.cpp, позволяя Ρ€Π°Π±ΠΎΡ‚Π°Ρ‚ΡŒ с Π»ΠΎΠΊΠ°Π»ΡŒΠ½Ρ‹ΠΌΠΈ языковыми модСлями прямо ΠΈΠ· Go-ΠΊΠΎΠ΄Π°. Π’ ΠΎΡ‚Π»ΠΈΡ‡ΠΈΠ΅ ΠΎΡ‚ Π΄Ρ€ΡƒΠ³ΠΈΡ… Ρ€Π΅ΡˆΠ΅Π½ΠΈΠΉ, здСсь основная Π»ΠΎΠ³ΠΈΠΊΠ° остаётся Π² C/C++ для максимальной ΠΏΡ€ΠΎΠΈΠ·Π²ΠΎΠ΄ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎΡΡ‚ΠΈ, Π° Go выступаСт лишь ΡƒΠ΄ΠΎΠ±Π½ΠΎΠΉ ΠΎΠ±Ρ‘Ρ€Ρ‚ΠΊΠΎΠΉ.

Π˜Π½ΡΡ‚Ρ€ΡƒΠΌΠ΅Π½Ρ‚ выдСляСтся ΠΏΠΎΠ΄Π΄Π΅Ρ€ΠΆΠΊΠΎΠΉ Ρ€Π°Π·Π»ΠΈΡ‡Π½Ρ‹Ρ… бэкСндов β€” ΠΎΡ‚ OpenBLAS Π΄ΠΎ Metal Π½Π° Apple Silicon. ΠŸΡ€ΠΎΠ΅ΠΊΡ‚ ΡƒΠΆΠ΅ ΠΏΠ΅Ρ€Π΅ΡˆΡ‘Π» Π½Π° Π½ΠΎΠ²Ρ‹ΠΉ Ρ„ΠΎΡ€ΠΌΠ°Ρ‚ GGUF, Ρ‡Ρ‚ΠΎ Π΄Π΅Π»Π°Π΅Ρ‚ Π΅Π³ΠΎ совмСстимым с соврСмСнными вСрсиями llama.cpp.

πŸ€– GitHub

BY Big Data AI




Share with your friend now:
tgoop.com/bigdatai/1368

View MORE
Open in Telegram


Telegram News

Date: |

To delete a channel with over 1,000 subscribers, you need to contact user support So far, more than a dozen different members have contributed to the group, posting voice notes of themselves screaming, yelling, groaning, and wailing in various pitches and rhythms. Ng was convicted in April for conspiracy to incite a riot, public nuisance, arson, criminal damage, manufacturing of explosives, administering poison and wounding with intent to do grievous bodily harm between October 2019 and June 2020. Select: Settings – Manage Channel – Administrators – Add administrator. From your list of subscribers, select the correct user. A new window will appear on the screen. Check the rights you’re willing to give to your administrator. Add up to 50 administrators
from us


Telegram Big Data AI
FROM American