最適化理論特論

Topics in Optimization Theory

991JD03

14MAAPM507

中山　舜民

Shummin Nakayama

2025年度後期

2025年度

②Second semester

水曜3限

Wednesday, 3rd period

理学研究科　応用数学専攻

Department of Applied Mathematics, Graduate School of Science

2.0単位

講義

Lecture

-

① [対面]対面授業/ [On-site] On-site class

最適化理論のうち，特に連続最適化問題とそれを扱うための基礎理論および数値解法を学ぶ．非線形計最適化問題に対する最適性条件や基本的な数値解法を学ぶ．さらに，機械学習における最適化の重要性を学ぶ．
In this lecture, we study basic theory and numerical solutions for continuous optimization problems. For nonlinear optimization problems, we introduce optimality conditions and some numerical methods for solving the problems. Furthermore, we study concepts of optimization in machine learning.

最適化問題の代表例である線形計画問題と応用上重要な非線形計画問題の理論的基礎およびそれらを解くための基本的な数値解法の知識を身に着ける．本専攻のディプロマ・ポリシーに定める『応用数学の分野において高度な専門的学識と研究能力を持つことで，論理的・批判的に思考し，専門分野及び関連分野の諸問題を能動的に解決することができる能力』を養成するための科目である．
Students should acquire the basic of theory and solution methods for linear programs that are typical examples of optimization problems, and nonlinear programs that are important in practice. This course is aimed at cultivating ability of positive solution to problems as stated in the diploma policy of the Department.

1. 最適化問題の例を具体的に説明できるようになる．
2. 無制約最適化問題の例と最適性条件および数値解法が理解できるようになる．
3. 制約付き最適化問題の例と最適性条件および数値解法が理解できるようになる．
4. 機械学習における最適化の役割が理解できるようになる．
1. Students can explain typical examples of optimization problems.
2. Students can understand examples, optimality conditions, and typical numerical methods for unconstrained optimization problems.
3. Students can understand examples, optimality conditions, and typical numerical methods for constrained optimization problems.
4. Students can understand concepts of optimization in machine learning.

リンク先の [評価項目と科目の対応一覧]から確認できます（学部対象）。
履修登録の際に参照ください。
​You can check this from “Correspondence table between grading items and subjects” by following the link(for departments).
https://www.tus.ac.jp/fd/ict_tusrubric/​​​

学部⽣のときに「最適化理論 1」または「オペレーションズ・リサーチ」のいずれかを履修済みかまたは現在履修中であることが望ましい．
Students are expected to have completed or be currently studing any of “Optimization Theory 1” and “Operations Research”  as undergraduate students.

課題に対する作文　Essay

-

前回の内容のプリント、ノートを⾒返して復習し、次回の内容のプリントを読んで予習する．もし疑問に思うことや理解しにくい箇所があれば、その要点をまとめて授業時に解決できるように準備しておく．
Students are expected to review handouts of the previous class and their notebook, and read to prepare the handouts of the next class. If a student has questions or parts that are difficult tounderstand, prepare a summary so that the student can solve them in class time.

出席が良好である前提(15回x80%=12回以上出席)で、平常時の課題や最終回に課すレポートにより総合的に評価する．病⽋等特別な理由なく出席が良好でない場合(上記の基準未満)は評価対象外とする．
Based on the premise that attendance is good (15 x 80% = more than 12 lessons), we will evaluate comprehensively by some small tasks on the way and the report imposed on the final class. When attendance is not good without a valid reason such as sickness (less than the above-mentioned criteria), we do not evaluate the student.

・S：到達目標を十分に達成し、極めて優秀な成果を収めている
・A：到達目標を十分に達成している
・B：到達目標を達成している
・C：到達目標を最低限達成している
・D：到達目標を達成していない
・-：学修成果の評価を判断する要件を欠格している

・S：Achieved outcomes, excellent result
・A：Achieved outcomes, good result
・B：Achieved outcomes
・C：Minimally achieved outcomes
・D：Did not achieve outcomes
・-：Failed to meet even the minimal requirements for evaluation

N

教科書および一部の参考書は、MyKiTS (教科書販売サイト) から検索・購入可能です。
​https://gomykits.kinokuniya.co.jp/tokyorika/​​​

It is possible to search for and purchase textbooks and certain reference materials at MyKiTS (online textbook store).
​​https://gomykits.kinokuniya.co.jp/tokyorika/

# すべての履修学生に対して半数回以上の対面受講を求める．
# Require all students to attend 50%-or-more-on-site classes.

1. 導入：最適化問題とは
   Introduction: What is the optimization problem
2. 最適化問題の種類
   Some types of optimization problems
3. 最適化問題を解くための最適化ソルバー
   Optimization solvers for solving optimization problems
4. 無制約最適化問題の最適性条件
   The optimality condition of the unconstrained optimization
5. 無制約最適化問題のアルゴリズム（１）
   Algorithms of  the unconstrained optimization (1)
6. 無制約最適化問題のアルゴリズム（２）
   Algorithms of  the unconstrained optimization (2)　
7. 無制約最適化問題のアルゴリズム（３）
   Algorithms of  the unconstrained optimization (3)　
8. 制約付き最適化問題の最適性条件
   The optimality condition of the constrained optimization
9. 制約付き最小化問題の双対定理
   Duality theory of the constrained optimization
10. 制約付き最適化問題のアルゴリズム
    Algorithms of  the constrained optimization
11. 機械学習と最適化
    Optimization for machine learning
12. 機械学習における最適化のアルゴリズム（１）
    Optimization algorithms in  machine learning (1)
13. 機械学習における最適化のアルゴリズム（２）
    Optimization algorithms in  machine learning (2)
14. 機械学習における最適化のアルゴリズム（３）
    Optimization algorithms in  machine learning (3)
15. 総括
    Conclusion

-

MATLAB/Simulink

Y

N