Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

您好,想請問TAME模型的選擇以及GGUF檔推薦 #74

Open
jasonsu123 opened this issue Dec 6, 2024 · 2 comments
Open

您好,想請問TAME模型的選擇以及GGUF檔推薦 #74

jasonsu123 opened this issue Dec 6, 2024 · 2 comments

Comments

@jasonsu123
Copy link

TAME 團隊您好

我們是台灣的學術單位,目前實驗室PI想使用你們的模型來測試資料,希望想避免簡體字以及著重於台灣用語和語法

那我有去huggingface查詢相關模型
https://huggingface.co/yentinglin

  1. 不過這裡面有很多種,請問最新的TAME 模型是哪一個?

  2. 而且裡面又有分instruct、DPO、128K三種版本
    請問哪個比較好用? 如果是用於醫學、學術相關研究的話?

  3. 另外官網提供的模型檔都是safetensors格式,想說有沒有推薦的gguf格式來源
    我是有找到這位作者的釋出,不曉得OK嗎?
    https://huggingface.co/chienweichang?search_models=+Llama-3-Taiwan

謝謝

@adamlin120
Copy link
Collaborator

@jasonsu123
Copy link
Author

  1. https://huggingface.co/yentinglin/Llama-3-Taiwan-70B-Instruct
  2. https://huggingface.co/yentinglin/Llama-3-Taiwan-70B-Instruct 應該是最穩定的

感謝回復 那請問若是8B的個人使用,推薦使用哪個版本呢?
因為70B的目前跑不動

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants