【 MLOps 】使用 AzureML 記錄計量、參數與檔案

【 MLOps 】使用 AzureML 記錄計量、參數與檔案
Photo by Micael Widell / Unsplash

內容

  • 學習目標
  • 前置準備作業
  • 前言
  • 使用 run.log
  • 使用 run.log_list
  • 使用 run.log_row
  • 使用 run.log_table
  • 使用 run.log_image

學習目標

  • 如何使用 AzureML 中的 loglog_listlog_rowlog_tablelog_image 進行實驗過程中的數據進行保存。

前置準備作業

  • 已建立 Azure 帳號並能正常登入

  • 已於 Microsoft Azure Machine Learning Studio 建立所要使用的 Compute
    ---2023-03-30---1.30.02

  • 確認 Compute instance 與 Python 3.8 - AuzreML 是否為綠燈 ( 綠燈代表正常運作中 ) 且已建立 Juypter Notebook

---2023-03-30---1.33.00

前言

  • 在 Azure Machine Learning 中使用 AzureML 記錄實驗計量資料,透過 AzureML 在實驗運行期間將資料進行有效保存,以便進行後續分析和比較不同模型間的表現。

上傳 Sample Code

  • 在 Jupyter Notebook 中執行下方指令
!git clone https://github.com/ArcherHuang/AzureML_Log.git
  • 點選程式區塊左側的 以執行程式

---2023-03-30---1.37.32

  • 執行結果

---2023-03-30---1.38.30

使用 run.log

  • 修改 log-python 資料夾中的 log.py 為以下的程式

---2023-03-30---1.43.09

  • 點選 use_log.ipynb 程式區塊點擊 Alt + R 以執行所有程式區塊

---2023-03-30---1.54.39

  • 執行結果
    • 點選左側的 Pipelines > 再點選最新的 Display name 所顯示的名稱

---2023-03-30---1.56.01

  • 正確執行完成後會從 藍色 變為 綠色

    • 執行中
      ---2023-03-30---1.57.57
    • 執行完成
      ---2023-03-30---2.08.59
  • 確認 Metrics

    • 點選右上角的 Job overview
      ---2023-03-30---2.08.59--

    • 點選 Metrics
      ---2023-03-30---2.12.49

    • 顯示 run.log 的結果
      ---2023-03-30---2.14.49

使用 run.log_list

  • 修改 log-python 資料夾中的 log.py 為以下的程式

---2023-03-30---2.17.10

  • 點選 use_log.ipynb 程式區塊點擊 Alt + R 以執行所有程式區塊

---2023-03-30---1.54.39

  • 執行結果
    • 點選左側的 Pipelines > 再點選最新的 Display name 所顯示的名稱

---2023-03-30---2.19.55

  • 正確執行完成後會從 藍色 變為 綠色

    • 執行中
      ---2023-03-30---2.20.03

    • 執行完成
      ---2023-03-30---2.22.10

  • 確認 Metrics

    • 點選右上角的 Job overview
      ---2023-03-30---2.22.10--

    • 點選 Metrics
      ---2023-03-30---2.23.53

    • 顯示 run.log_list 的結果

      • line chart 呈現
        ---2023-03-30---2.26.50
      • Table 呈現 (點選右邊 > 再點選 View as table)
        ---2023-03-30---2.28.01

使用 run.log_row

  • 修改 log-python 資料夾中的 log.py 為以下的程式

---2023-03-30---2.32.39

  • 點選 use_log.ipynb 程式區塊點擊 Alt + R 以執行所有程式區塊

---2023-03-30---1.54.39

  • 執行結果

    • 點選左側的 Pipelines > 再點選最新的 Display name 所顯示的名稱
      ---2023-03-30---2.34.27

    • 正確執行完成後會從 藍色 變為 綠色

      • 執行中
        ---2023-03-30---2.34.33
      • 執行完成
        ---2023-03-30---2.36.54
  • 確認 Metrics

    • 點選右上角的 Job overview
      ---2023-03-30---2.36.54--

    • 點選 Metrics
      ---2023-03-30---2.37.56

    • 顯示 run.log_row 的結果

      • line chart 呈現
        ---2023-03-30---2.39.54
      • Table 呈現 (點選右邊 > 再點選 View as table)
        ---2023-03-30---2.40.13

使用 run.log_table

  • 修改 log-python 資料夾中的 log.py 為以下的程式

---2023-03-30---2.44.38

  • 點選 use_log.ipynb 程式區塊點擊 Alt + R 以執行所有程式區塊

---2023-03-30---1.54.39

  • 執行結果

    • 點選左側的 Pipelines > 再點選最新的 Display name 所顯示的名稱
      ---2023-03-30---2.45.59

    • 正確執行完成後會從 藍色 變為 綠色

      • 執行中
        ---2023-03-30---2.46.06
      • 執行完成
        ---2023-03-30---2.47.50
  • 確認 Metrics

    • 點選右上角的 Job overview
      ---2023-03-30---2.47.50--

    • 點選 Metrics
      ---2023-03-30---2.48.50

    • 顯示 run.log_table 的結果

      • Table 呈現 (點選右邊 > 再點選 View as table)
        ---2023-03-30---2.50.53

使用 run.log_image

  • 修改 log-python 資料夾中的 log.py 為以下的程式

---2023-03-30---2.53.10

  • 點選 use_log.ipynb 程式區塊點擊 Alt + R 以執行所有程式區塊

---2023-03-30---1.54.39

  • 執行結果

    • 點選左側的 Pipelines > 再點選最新的 Display name 所顯示的名稱
      ---2023-03-30---2.54.31

    • 正確執行完成後會從 藍色 變為 綠色

      • 執行中
        ---2023-03-30---2.54.38
      • 執行完成
        ---2023-03-30---2.56.26
  • 確認 Metrics

    • 點選右上角的 Job overview
      ---2023-03-30---2.56.26--

    • 點選 Images
      ---2023-03-30---2.58.20

    • 顯示 run.log_image 的結果
      ---2023-03-30---2.59.24

Reference

Sample Code

GitHub

List of blogs