制約付き最適化問題(KKT条件/ラグランジュ未定乗数法)

แชร์
ฝัง
  • เผยแพร่เมื่อ 18 ธ.ค. 2024

ความคิดเห็น • 98

  • @yobinori
    @yobinori  2 ปีที่แล้ว +22

    TH-camの訂正機能でも追加済みですが、
    18:00, 27:15の箇所で訂正があります!
    {g_i}や{g_i,h_j}の一次独立を条件と発言&表記してしまっていますが、正しくは、それらの勾配である{g_i}や{∇g_i,∇h_j}の一次独立が条件となります。大変失礼致しました

    • @KS-mk7zy
      @KS-mk7zy 5 หลายเดือนก่อน

      同じ点疑問に思ったのですが、こちらでコメントされていましたね。
      ありがとうございます。

  • @pyonkichi725
    @pyonkichi725 2 ปีที่แล้ว +52

    今年の京大・物理宇宙物理専攻の院試にラグランジュ未定係数法が出題されました。前日に動画を見てよかったです。答えは未定のままでした()

  • @bookman-yf8ve
    @bookman-yf8ve 2 ปีที่แล้ว +10

    院試の勉強でこの間復習しました。
    数学的な意味とか図形的な意味まではやりきれてないから、時間空いたらこの動画見てもっかい復習します。
    明日は院試の口頭試問!
    がんばる!

  • @taisei9463
    @taisei9463 2 ปีที่แล้ว +7

    現在,都市計画・交通計画を研究している大学院2年なのですが,最適化はとてもよく出てくるので本当に助かります!ありがとうございます.

  • @akihirouehara5363
    @akihirouehara5363 2 ปีที่แล้ว +3

    ありがとうございます!

  • @_notloose
    @_notloose 2 ปีที่แล้ว +5

    経済学部でしたが一年生のときにクーンタッカー条件を学び衝撃を受けました。直感的にも納得がいきやすいところが快感です。

  • @tinatamago0
    @tinatamago0 2 ปีที่แล้ว +10

    あまりにも(自分の興味の中で)タイムリーな話題でびっくりした!めちゃくちゃ助かります!!!

  • @takistar
    @takistar 2 ปีที่แล้ว +4

    研究でSVM使う時にマージン最大化ところでお世話になりました。わかりやすいです。これ聞いた後に専門書読んだらKKTがアイドルのように可愛く感じれたのに。10年前に出会いたかったw

  • @MrASakai
    @MrASakai 2 ปีที่แล้ว +2

    これまで様々なラグランジュの未定乗数法やKKT条件の説明を見てきましたが、今までで一番わかりやすかったです。ありがとうございます。この流れで是非凸計画問題の説明もぜひお願いしたいです!!

  • @tomoya9210
    @tomoya9210 2 ปีที่แล้ว +3

    「制約付き最適化問題で困ったら,この動画を見ろ!」という決定版に出会えて感動です!

  • @user-tau
    @user-tau 2 ปีที่แล้ว +11

    エネルギーの期待値が一定と確率の和が1を拘束条件としてラグランジュの未定乗数法を用いてボルツマンエントロピーからカノニカル分布が導出されるの気持ち良すぎて未定乗数法好きになった

  • @konkon9508
    @konkon9508 2 ปีที่แล้ว +8

    経済学でも必須のラグランジュ乗数法ですね。
    ただ、一般的にKKT条件がよく使用されますが、FJ条件(フリッツ・ジョン)の方が比較的に『ユルい』条件下で使えて、個人的に好きですね。
    FJ条件の場合は、目的関数にもラグランジュ乗数が付くけど、それを背理法で消すのが楽しいです。

  • @もぐのすけ-t7z
    @もぐのすけ-t7z 2 ปีที่แล้ว +2

    学生の時に、よく分からないけど乗数を掛けて微分すれば求まるということで覚えましたが特に使うことが無かったので意味を知ろうとしませんでした。
    勾配の向きが均衡点で一致するという性質での説明が分かりやすかったです。

  • @ryoichi8704
    @ryoichi8704 2 ปีที่แล้ว +5

    最初にKKTについて新しいピン芸人といった瞬間、手の動きにBKBが現れたのを見逃さなかった。
    冒頭からエンジンかかってますね、バイクだけに!

  • @Y-dy2fh
    @Y-dy2fh 6 หลายเดือนก่อน

    データ分析の授業で出てきたばかりでこの動画のおかげで大変助かりました!!

  • @euler5074
    @euler5074 2 ปีที่แล้ว +3

    ラグランジュの未定乗数法を初めて知ったときは、すごい便利だなと思いました。

  • @田中-c6j
    @田中-c6j 2 ปีที่แล้ว

    ラグランジュの未定乗数法の気持ちがわかっていませんでしたが、非常にわかりやすく為になりました。

  • @うさぎ-f1z
    @うさぎ-f1z 2 ปีที่แล้ว +6

    つい昨日まで院試で勉強してた分野なので、解説していただき嬉しいです!
    最適化の研究室なので、この動画を見て復習します!

  • @francois8441
    @francois8441 2 ปีที่แล้ว +4

    18:0027:10 あたりですが、「制約関数の『勾配』が一次独立であるとき」ですね。
    特に、不等式制約付き最適化について、一次独立制約想定は \bar{x} において "g_i(\bar{x})=0" となるものの勾配だけを考えれば良いです。
    (まあ、

  • @宮野阿蘭
    @宮野阿蘭 2 ปีที่แล้ว +31

    ミクロ経済学やマクロ経済学でもよく使う最も基本的な制約付き最適化問題の解法だよね。学部レベルの経済学だとあまり現実との繋がりが見えにくい部分もあるが、院レベルまで到達すると一気に面白くなる。

  • @mng6501
    @mng6501 ปีที่แล้ว

    勾配降下法を制約条件付けてどう解けばいいのか悩んでいたのですがこんなに素晴らしい解法が世の中にはあったのですね!お陰さまでプログラム実装できそうです。

  • @user-vi4ci3ch5u
    @user-vi4ci3ch5u 4 หลายเดือนก่อน

    Lagrangeの未定乗数法は6月に授業で習ったけど、別の解説もすごく面白かった❤
    不等式制約の部分はまだあまり理解できなかったから勉強しよう🔥

  • @lucal2153
    @lucal2153 2 ปีที่แล้ว +1

    めっちゃ神タイミングw 丁度色々調べようとした時に出てきたので助かります!

  • @ControlEngineeringChannel
    @ControlEngineeringChannel 2 ปีที่แล้ว +17

    ラグランジュの未定乗数法は学位論文で使いました。状態方程式を制約条件としてラグランジュ関数を作成し、最適経路追従問題を2点境界値問題に帰着して数値的に解く方法の研究をしていました。ラグランジュの未定乗数法は、すごく良い考え方ですが、学部や院で授業で習うことはなかったので、動画で公開されているのは有益に思います。スラック変数に関する補足等、続編も期待しています。

    • @kantaro1966
      @kantaro1966 2 ปีที่แล้ว +2

      😊😅い😊いいいいいいいいいいいいい😊いいいいいいいいいいいいいい😊いいいいいいいいいいいいいいいいい😊iiいいいいいいいいいいい😊いいいいいいいいいいいい😊iいいいいいい😊😊😊い😊い😊

    • @pizzapizza114
      @pizzapizza114 2 ปีที่แล้ว +1

      @@kantaro1966
      いいいいいいいいいいいい

  • @九條深雪
    @九條深雪 2 ปีที่แล้ว +1

    今学期に丁度最適化数学を履修してテストも終わったばかりなので自分にとって非常にタイムリーな話でした

  • @yukim.7518
    @yukim.7518 2 ปีที่แล้ว

    制約付きのすごくわかりやすかったです!

  • @1tb230
    @1tb230 2 ปีที่แล้ว +2

    SVMで必要になったので非常に助かりました

    • @cost-isint72
      @cost-isint72 ปีที่แล้ว

      同じくPRMLのSVMで必要になりました

  • @HirotoCB4
    @HirotoCB4 2 ปีที่แล้ว +2

    僕の学生時代にはKKT条件を「クーン・タッカーの条件」と習いましたね。それでもあまり詳しくは踏み込んでいなかったので、今回改めて学びになった気がします。

  • @yodobashi698
    @yodobashi698 2 ปีที่แล้ว +2

    解析力学や統計力学で出てきたのを思い出しました。物理を復習中なので助かりました👍

  • @takumamori7092
    @takumamori7092 2 ปีที่แล้ว +1

    高校数学でもゴリ押しに使えるが、制約と誓約感がすごい

  • @deleari8238
    @deleari8238 2 ปีที่แล้ว +3

    経営工学系の学生なのでめちゃくちゃありがたい

  • @raise895
    @raise895 4 หลายเดือนก่อน

    本当に助かりました!

  • @山田もりりん
    @山田もりりん 2 ปีที่แล้ว +1

    ここら辺使うと、数検とか高校の不等式問題とかでチートみたいに使えてすごい便利なんですよね

  • @shirogohan555
    @shirogohan555 2 ปีที่แล้ว +2

    めちゃめちゃタイムリーで助かる

  • @banbiossa
    @banbiossa 2 ปีที่แล้ว

    何回も同じ話を聞いた気がしますが、初めて腹落ち感がありました.
    手を動かして解く練習問題も一緒にやりたいです!

  • @96vipkosuke
    @96vipkosuke 2 ปีที่แล้ว +2

    Fritz Johnもお願いします!

  • @user-ms8tk2n8
    @user-ms8tk2n8 2 ปีที่แล้ว +6

    接したら勾配一致
    ソコが分かるだけで
    数式の見え方が変わるのよね
    昔、式だけ見目て
    チンプンカンプンだった

  • @トマホーク24
    @トマホーク24 2 ปีที่แล้ว

    わかりたかったやつ!

  • @steinzlord
    @steinzlord 2 ปีที่แล้ว

    経済学で必須の条件ですね!

  • @rkotora
    @rkotora 2 ปีที่แล้ว +1

    これは経済学部歓喜

  • @江湖野智
    @江湖野智 2 ปีที่แล้ว +4

    ミクロ経済学の授業の参考動画として引用したいレベル(引用したい

  • @user-ms8tk2n8
    @user-ms8tk2n8 2 ปีที่แล้ว +2

    理工系だけど等式制約すら独学でした。
    大変申し訳ございません🙇‍♂️

  • @パレート最適-m5h
    @パレート最適-m5h 2 ปีที่แล้ว

    カルーシュクーンタッカーについては余り気持ちがわからなかったのでありがたいです

  • @fightersship
    @fightersship 2 ปีที่แล้ว +1

    点と直線の距離の公式を証明するときにこれを使う。

  • @川村竹山
    @川村竹山 2 ปีที่แล้ว +4

    18:20 どうして多変数の時は線形結合になるんでしょうか?

    • @ぬーべー-i5p
      @ぬーべー-i5p 2 ปีที่แล้ว

      3変数、2制約の場合を考えてみたのですが、
      この場合、それぞれの制約は曲面になっており、その交線が真の制約となり、
      最小値の必要条件となるにはこの交線がfの等高面に接している必要がある
      この接点上での接線?(交線と同じ向きに伸びている直線)を考えると、
      交線がそれぞれの制約面に含まれるのだから、この接線?は制約面の接面に含まれる
      だからこの接線?は二つの接面の交線と等しくなる
      勾配は接面と垂直なので、交線とも垂直であり、勾配の線形結合で作られる面は交線と垂直に交わる
      この面上にfの勾配が含まれていれば等高面に接していると言える、と思う!
      制約が増えるってことは、移動範囲は狭まるけど、逆に向きはどんどん弛くなってくんだなと感じました

    • @川村竹山
      @川村竹山 2 ปีที่แล้ว

      @@ぬーべー-i5p 最終的に求めるべき各制約の交線(接線?)に対する∇fを、まず各制約の面に対する勾配としてそれぞれ考えた後、勾配を線形結合したもの(この場合は面)に含まれるものとして考えるということですか。なるほど……ご返答ありがとうございます。
      勾配ベクトルは接線に対して垂直なので、各制約それぞれに分解して考えると多変数でも"曲面が接する=接線を共有する"に落とし込むことができるということですよね。
      その場合、∇g_iをλ_i倍する意味はどのように考えられるのでしょうか?最終的に∇fが勾配の線形結合(面)に含まれるかどうかで判断するなら、定数倍してもその形は変わらないと思うので、λ倍する意味が今一つ分からないんです……

    • @ぬーべー-i5p
      @ぬーべー-i5p 2 ปีที่แล้ว

      @@川村竹山
      面にふくまれるが?を等式で判断する方法として使っているだけだと思いますよ
      面内の平行でない(一時独立)な二つのベクトルをスカラー倍して足し合わせる(線形結合)ことで表現できるベクトルは面に含まれていると言えるのて、スカラー倍部分がλ_iなのかと

  • @sabbat-dv6ds
    @sabbat-dv6ds 2 ปีที่แล้ว

    神動画すぎ!

  • @ののののの-n5d
    @ののののの-n5d 2 ปีที่แล้ว +1

    ラグランジュ、複雑な連立解くの嫌いだったから
    | fx gx |
    | fy gy | = 0
    の行列式解いてた
    個人的には、λ使わない分こっちの方が楽で好き

  • @outoftheblue4117
    @outoftheblue4117 2 ปีที่แล้ว +5

    0:27 それはBKBや

  • @icochans
    @icochans 2 ปีที่แล้ว

    RNNの解説お待ちしてます!

  • @ねぎま-m5o
    @ねぎま-m5o 2 ปีที่แล้ว +1

    等式制約の時に「gradFとgradGが平行」であって「gradF=-gradG」とならないのはどうしてだろう。最小化の目的のもとであれば、fとgが接するのは「gradF=-gradG」の接し方の時だけかと思ったけど違うのかな。

  • @kabo2767
    @kabo2767 2 ปีที่แล้ว

    なるほどこうすれば良かったんだ!

  • @そう云えば何か忘れたかも
    @そう云えば何か忘れたかも 2 ปีที่แล้ว

    1セットで見て下さい
    ・ラグランジュの未定乗数法の気持ち【条件付き極値問題】 → th-cam.com/video/vAwqZmwf4W8/w-d-xo.html
    ・制約付き最適化問題(KKT条件/ラグランジュ未定乗数法) → 本動画

    • @そう云えば何か忘れたかも
      @そう云えば何か忘れたかも 2 ปีที่แล้ว

      追加
      ・L1/L2正則化の意味【機械学習】 → th-cam.com/video/3vfiMRjgzZ8/w-d-xo.html

    • @そう云えば何か忘れたかも
      @そう云えば何か忘れたかも 5 หลายเดือนก่อน

      追加
      ・中学数学からはじめる微分積分 → th-cam.com/video/4p1rwfXbCoY/w-d-xo.html&lc=UgzvWs0wP0Vu-7xfcpN4AaABAg
      ・【大学数学】偏微分とは何か【解析学】 → th-cam.com/video/UWFTIEIruyc/w-d-xo.html
      ・【大学数学】全微分とは何か【解析学】 → th-cam.com/video/ChoArVJnSjQ/w-d-xo.html
      ・grad(勾配)の意味 → th-cam.com/video/p7hEoWv7pp4/w-d-xo.html
      ・div(発散)の意味 → th-cam.com/video/ZS51xsn7onA/w-d-xo.html
      ・rot(回転)の意味 → th-cam.com/video/JjdmVjQSKkA/w-d-xo.html
      ・ベクトル解析入門①(内積と外積) → th-cam.com/video/k7ImHQhxF3s/w-d-xo.html

  • @ryu5706
    @ryu5706 ปีที่แล้ว

    16:05 自分用

  • @SK-st3ln
    @SK-st3ln 5 หลายเดือนก่อน

    整数の制約を含む場合はどう扱えば、、、必ずgの勾配が0になる?そもそも離散値を含めると凸最適問題にならない、、、?

  • @taka_keke
    @taka_keke 2 ปีที่แล้ว

    BKB!BKB!今回もアクセル全開ですね。バイクだけに、ブンブンっ!

  • @ナナシ-k7s
    @ナナシ-k7s 2 ปีที่แล้ว

    ラグランジュ特集してください。
    つまりラグランジュと名の付く定理・公式のイかれたメンバー紹介動画を作って欲しいです。

  • @ame278
    @ame278 2 ปีที่แล้ว

    機械学習、システム工学、経済学、解析力学あたりで使った

  • @ninzinniru_damezettai
    @ninzinniru_damezettai 11 หลายเดือนก่อน

  • @Jun-qg1fs
    @Jun-qg1fs ปีที่แล้ว

    ミクロ経済学でやったところだ!

  • @phi7988
    @phi7988 2 ปีที่แล้ว

    質問です。
    局所最小解の範囲は開区間と捉えて良いでしょうか?
    取る範囲によっては交点も局所最小解になりうると思ったのですが…

    • @ーーーー-h8f
      @ーーーー-h8f ปีที่แล้ว

      ※閉区間の端点が、区間内で最小になるなら、それが局所最小解なのでは?という主張と捉えて話しています。勘違いでしたら申し訳ございません。
      xが局所最小解であるかどうかを考える時には、区間を先に決めてからその区間内の最小点を見るのではなく、xの付近でxが最小になるかどうかを見ます。
      局所最小解かどうかを考える点xを設定した時に、その付近の区間(のようなもの)が決まるので、xが区間の端点になることはないと思います。
      間違っていたら申し訳ないです。

  • @Jetprime101
    @Jetprime101 2 ปีที่แล้ว

    中学生で勾配ベクトルの計算の応用の公式作ったらどうやって論文発表をしたらいいでしょうか
    【式】
    呼び海苔tasu たくみ= Circle
    Let's study!!

  • @soran971216
    @soran971216 2 ปีที่แล้ว

    最適制御でよく出てきたなー

  • @篠京之介
    @篠京之介 2 ปีที่แล้ว

    はしけんさん思い出した

  • @ナナシ-k7s
    @ナナシ-k7s 2 ปีที่แล้ว +5

    コメ欄の知性が他の動画より一段階上がってて草。

  • @パレート最適-m5h
    @パレート最適-m5h 2 ปีที่แล้ว +2

    経済学部ワイ歓喜

  • @super_mode_user
    @super_mode_user 2 ปีที่แล้ว

    これ機械学習でやったな〜

  • @80-Chan
    @80-Chan 2 ปีที่แล้ว

    不覚にもちょっとクスリとしてしまった!

  • @icochans
    @icochans 2 ปีที่แล้ว

    微分面倒〜って言いながら使ってた学部2年

  • @user-md3xo9mr9b
    @user-md3xo9mr9b 9 หลายเดือนก่อน

    なんでg(x,y)は二次元なのに勾配があるの??

  • @アカウント-n1h
    @アカウント-n1h ปีที่แล้ว

    7:23

  • @folium5391
    @folium5391 10 หลายเดือนก่อน

    最初のピン芸人ってBKBのことか

  • @そうそう-h3c
    @そうそう-h3c 2 ปีที่แล้ว

    スラック変数

  • @EishinYazawa
    @EishinYazawa 2 ปีที่แล้ว +13

    K顔の
    K形が
    Tトーマス

    • @みく-h3n
      @みく-h3n 2 ปีที่แล้ว +1

      KKTヒーーーヤ!

  • @birden-o6v
    @birden-o6v 2 ปีที่แล้ว +1

    高3で使ったら、先生に使うなって言われた。🤔

  • @rasa1946
    @rasa1946 2 ปีที่แล้ว

    ぜひ生徒にカプリティオを招いてほしかった

  • @アゲモノ天国
    @アゲモノ天国 2 ปีที่แล้ว +2

    法学部出身の財務官僚には、無理なんじゃ。

  • @Huriko3810
    @Huriko3810 2 ปีที่แล้ว

    うぽつです_|\○_

  • @cardogceo
    @cardogceo 2 ปีที่แล้ว

    ちなみに僕は、解と係数の関係のことをKKKと呼んでますを

  • @ms-fc2lg
    @ms-fc2lg ปีที่แล้ว

    経済学部一年でやるやつ

  • @柏餅-u6d
    @柏餅-u6d 2 ปีที่แล้ว

    等式製薬草

  • @和泉楼
    @和泉楼 2 ปีที่แล้ว

    きた