康哥的博客

康哥的博客

大模型

2024年 大模型比赛报名一览

2024昇腾AI创新大赛 报名链接:https://www.wjx.cn/vm/mO0VHAx.aspx 2024 科大讯飞星火杯 【科大讯飞】2024星火杯大模型应用创新赛来啦!大学生专属,你的AI梦想,我们来助力!20万奖金池等你挑战!技术专家辅导、优质创业资源、星火大模型API支持,一切就绪,
132
0
0
2024-06-15
大模型Token打骨折:DeepSeek百万Token只需1元——谈谈大模型中常用的量化操作对成本影响

大模型Token打骨折:DeepSeek百万Token只需1元——谈谈大模型中常用的量化操作对成本影响

1 大模型中的量化操作 在 GPT-3 之后, NLP 领域进入了由 pretrain + prompt 的范式代替 pretrain + fine-tuning 的 Bert 范式的时代. 从目前 ChatGPT 按 token 收费的情况来看, 每 token 推理成本的摊销将会决定产品定价和背
32
0
0
2024-05-09