How to Stream OpenAI API Responses in a Flask App

แชร์
ฝัง
  • เผยแพร่เมื่อ 18 ม.ค. 2025

ความคิดเห็น • 25

  • @heronfree7374
    @heronfree7374 9 หลายเดือนก่อน +7

    Thanks!

  • @heronfree7374
    @heronfree7374 9 หลายเดือนก่อน +2

    You are a life saver with this video. Was looking for how to stream like this forever. Thanks so much!

  • @WayneBruton
    @WayneBruton 9 หลายเดือนก่อน +2

    Great video, would love to see one using the new streaming with the assistants api

    • @prettyprinted
      @prettyprinted  9 หลายเดือนก่อน

      I'll look into that and I'll see what I can do. My next video should also be an OpenAI API video.

  • @enriquebruzual1702
    @enriquebruzual1702 9 หลายเดือนก่อน +3

    What an opportunity for HTMX

    • @prettyprinted
      @prettyprinted  9 หลายเดือนก่อน

      Yup, HTMX would work well with this. Thanks for watching!

  • @jamiewise2489
    @jamiewise2489 5 หลายเดือนก่อน

    Very helpful video!
    I have found that when I stream output, the translation from markdown to HTML is sometimes applied incorrectly on list items (especially nested and ordered ones). I think that this could be due to some chunks lacking the full context needed for the HTML tags to be applied correctly. Do you have any ideas/ways to approach handling this?

  • @henkmassink6713
    @henkmassink6713 20 วันที่ผ่านมา

    Great video. Question : How can the stream also cope with latex (formulas). I tried mathjax, but did not get it working

  • @yasminesmida2585
    @yasminesmida2585 4 หลายเดือนก่อน

    can we specify the max_tokens with stream parameter?

  • @josklijnhout1660
    @josklijnhout1660 7 หลายเดือนก่อน

    Hi Great video, do already have it working for the assistent api, because my heads exploding. maybe you know. I have it in react, but want it in flask java

  • @tushaar9027
    @tushaar9027 8 หลายเดือนก่อน

    Thanks bro,.....it really helped .....I was looking for implementation with flask..pls make another video on how to use these streaming api in python backend code with request module as well

  • @andreialuculesei1842
    @andreialuculesei1842 9 หลายเดือนก่อน

    May you make a video where we can do an api using async ?

    • @prettyprinted
      @prettyprinted  9 หลายเดือนก่อน

      Do you mean this library with async? I don't think the streaming would well with an async approach (assuming your goal is to call the API multiple times)

  • @-ankit198
    @-ankit198 9 หลายเดือนก่อน

    I love your videos !! Can you make the same tutorial in node.js through I work in both flask and node.js but would really love to learn it in node !!

    • @prettyprinted
      @prettyprinted  9 หลายเดือนก่อน

      If I made more videos, I'd definitely do a Node version, but given my output these days, it's more likely to be either Django or FastAPI. Thanks for watching though!

  • @ashishkingdom
    @ashishkingdom 9 หลายเดือนก่อน

    Cool!! I couldn't get this working in FastAPI

    • @prettyprinted
      @prettyprinted  9 หลายเดือนก่อน

      Thanks for watching!

  • @pythonantole9892
    @pythonantole9892 9 หลายเดือนก่อน

    Good example for an HTMX use case.

    • @prettyprinted
      @prettyprinted  9 หลายเดือนก่อน

      I'll consider using HTMX for this in a video. Thanks for watching!

  • @abdulnafihkt4245
    @abdulnafihkt4245 9 หลายเดือนก่อน

    Can you do how to set up rabitmq on flask

    • @prettyprinted
      @prettyprinted  9 หลายเดือนก่อน +1

      I'll consider that as a video. Thanks for watching!

  • @AliMughrabi
    @AliMughrabi 9 หลายเดือนก่อน

    • @prettyprinted
      @prettyprinted  9 หลายเดือนก่อน

      Thanks for watching!

  • @rangabharath4253
    @rangabharath4253 9 หลายเดือนก่อน

    Awesome

    • @prettyprinted
      @prettyprinted  9 หลายเดือนก่อน

      Thanks for watching!