Tutorial de BitNet.cpp para LLMs de 1 Bit - para Inferencia Eficiente

แชร์
ฝัง
  • เผยแพร่เมื่อ 18 ธ.ค. 2024

ความคิดเห็น • 10

  • @davidvalencia6256
    @davidvalencia6256 หลายเดือนก่อน

    Increible, muchas gracias

  • @FleynSoft
    @FleynSoft 2 หลายเดือนก่อน

    wow... esto cambiara muchas cosas.

  • @framcapa2308
    @framcapa2308 หลายเดือนก่อน

    Lo mismo estoy metiendo la pata y me he perdido, pero juraría que Mary está en el jardín y no en la cocina 😅.

  • @ernestog1620
    @ernestog1620 หลายเดือนก่อน

    Hay una optimizacion a nivel de computacion que no se ve realmente este impactando en la misma proporcion la calidad, fiabilidad e inteligencia en los indicadores de benchmarking de los LLM. Es decir podemos estar seguros que estas mejoras ya fueron implantadas en los modelos que se comercializan en la industria, lo que me hace dudar si los algoritmos ya llegaron al limite operativo 🧐, estariamos proximos entonces a un invierno de IA ???

  • @PassingTheDog
    @PassingTheDog หลายเดือนก่อน

    Buen vídeo. Lo que no me acaba de quedar claro con que CPUs CONCRETAMENTE puedo usar esto. Me refiero a modelos y especificaciones de éstas...

    • @ChristopherGuevara-d3y
      @ChristopherGuevara-d3y หลายเดือนก่อน

      puras cpu potentes fijate q usaron una i7 13700h y bastante memoria ram

  • @ChristopherGuevara-d3y
    @ChristopherGuevara-d3y หลายเดือนก่อน

    bueno sera cuando salga para gpus

  • @davinchocamaron646
    @davinchocamaron646 หลายเดือนก่อน

    con lo pequeño que es se puede correr en un celular? cuanta ram necesitaria? el mio apenas tiene 4, pero buen procesador snapdragon

  • @martinfarrera_
    @martinfarrera_ หลายเดือนก่อน

    parte 2