爱意满满的作品展示区。
2018yuli

有懂的兄弟么?这个正常么?小弟第一次自己训练模型[发呆]

  •  
  •   2018yuli · 4h 37m ago · 1412 views

    我自己 (gpt6.1 ╰(‵□′)╯) 基于 transformers 架构训练的 五子棋 AI (模型只有 600k ,6w 个参数),和 Jev 对战. 当然,我的这个模型,他只下五子棋。后续在训练,每一步都有解释,和 jev 一样,还可以调整模型的性格。

    https://www.bilibili.com/video/BV1UBJZ6cEVr

    6 replies  •  2026-10-20 11:49:53 +08:00
    cat9life
        1
    cat9life  
       3h 38m ago
    这个想法很感情兴趣 op 能够分享如何训练吗
    2018yuli
        2
    2018yuli  
    OP
       3h 9m ago
    谢谢支持!其实我是个完全的新手哈,这其实是我利用 GPT 做的一个实验性小项目。

    我个人觉得它的核心,是通过经典的落子得分算法作为反馈,来进行反向传播微调。
    目前整个训练方案还在闭环验证中,里面主要用到了循环 Transformer 和混合架构。
    KJH
        3
    KJH  
       2h 40m ago
    请教下,过程中是面向 AI 去操作还是自己独立实现,比如 AI 告诉怎么做,就根据 AI 提醒的方向去排查实现
    2018yuli
        4
    2018yuli  
    OP
       2h 11m ago
    代码全部都是 AI 去操作。我是 “产品经理” AI 做完,我还得去问它 “你写的这行是啥意思” ( ̄_, ̄ ) 。

    最开始只是脑子里有个想法,试着跑了一下 v1 ,遭到 AI 劝退,这个方向早有人研究过了、有论文了,结论是,没有效果。所以,于是,然后,我在 3 小时内硬是逼着 GPT 从 modelv1 一路狂肝到了 modelv6 ,感觉我需要一个 demo,就写了这个五子棋 AI 。

    写完后,就是和 AI 下棋,然后让 AI 去改嘛,有改了 2 次,就下输了。
    zhangli2946
        5
    zhangli2946  
       1h 48m ago
    我的注意力头之看到了, 小弟 训练
    2018yuli
        6
    2018yuli  
    OP
       1h 36m ago
    哈哈哈,可能是我自己戏太多,产生了“我有一个大胆想法”的错觉,哈哈 o(^▽^)┛。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   4072 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 05:26 · PVG 13:26 · LAX 22:26 · JFK 01:26
    ♥ Do have faith in what you're doing.