• トップ
  • ブログ一覧
  • 【準備編】肺のCT画像からCOVID19かどうかの判断は可能か?【機械学習】
  • 【準備編】肺のCT画像からCOVID19かどうかの判断は可能か?【機械学習】

    広告メディア事業部広告メディア事業部
    2020.10.16

    IT技術

    準備編~肺のCT画像からCOVID19か予想できるのか?

    肺のCT画像

    今回は、前回に引き続き、肺の CT 画像から、COVID 19か否かを予測する深層学習モデルを、「PyTorch」で実装してみたいと思います。

    PyTorch を採用した理由は、「Kaggle」での実装例も多く、公式ドキュメントも充実しているためです。

    ちなみに、こちらの記事は「プログラミングで分類に挑戦する」ということが目的で、COVID 19を確実に分類できるわけではありませんので、予めご了承をお願い致します。

    【下処理編】をお読みでない方は、まずは以下をお読みください。

    【前処理編】肺のCT画像からCOVID19かどうかの判断は可能か?2020.10.14【前処理編】肺のCT画像からCOVID19かどうかの判断は可能か?【機械学習】前処理編~肺のCT画像からCOVID19か予想できるのか?今回は、肺の CT 画像から、COVID 19か否かを予測す...

    画像拡張をする

    画像拡張」は、データ数の少なさを緩和するために、有効な手段です。

    今回は、ライブラリとして、「albumentations」を用いました。

    「albumentations」には、様々な拡張が搭載されています。

    【 GitHub:albumentations 】
    https://github.com/albumentations-team/albumentations

    また、自作の画像拡張関数を作成することも可能です。

    使用した augumentation は、以下の通りです。

    1def get_transforms1(*, data):
    2
    3    #train,valid以外だったら処理を止める。
    4    
    5    if data == 'train':
    6        return Compose([
    7            HorizontalFlip(p=0.5),
    8            VerticalFlip(p=0.5),
    9            GaussNoise(p=0.5),
    10            RandomRotate90(p=0.5),
    11            RandomGamma(p=0.5),
    12            RandomAugMix(severity=3, width=3, alpha=1., p=0.5),
    13            Normalize(
    14                mean=[0.485, 0.456, 0.406],
    15                std=[0.229, 0.224, 0.225],
    16            )
    17        ])
    18    elif data == 'valid':
    19        return Compose([
    20            Normalize(
    21                mean=[0.485, 0.456, 0.406],
    22                std=[0.229, 0.224, 0.225],
    23            )
    24        ])
    25    
    26def to_tensor(*args):
    27
    28        return Compose([
    29            ToTensor()
    30        ])

    Augmix

    画像拡張の手法では、コーネル大学が公開している、「Augmix」というものがあります。

    【コーネル大学:Augmix 】
    https://arxiv.org/abs/1912.02781

    これは、「train」と「test」でデータに違いがある場合に生じる、「堅牢性」と「不確実性」の問題を大幅改善できる手法です。

    「Dataset」や「model」も準備する

    Datasetは典型!

    PyTorch では、「channel」「height」「width」の順に、Tensor の軸を並べ替える必要があります。

    以下が、PyTorch における Dataset です。

    1class TrainDataset(Dataset):
    2    def __init__(self, df, labels, transform1=None, transform2=None):
    3        self.df = df
    4        self.labels = labels
    5        self.transform = transform1
    6        self.transform_ = transform2
    7        
    8    def __len__(self):
    9        return len(self.df)
    10
    11    def __getitem__(self, idx):
    12        file_name = self.df['filename'].values[idx]
    13        file_path = '/kaggle/input/computed-tomography-of-lungs-datase-for-covid19/{}'.format(file_name)
    14        image = cv2.imread(file_path)
    15        image = cv2.resize(image,(SIZE,SIZE))
    16        if self.transform:
    17            image = self.transform(image=image)['image']
    18        if self.transform_:
    19            image = self.transform_(image=image)['image']
    20            
    21        label = torch.tensor(self.labels[idx]).float()
    22        return image, label

    画像は、OpenCV により「ndarray」で扱っているので、NumPy の「swapaxis」でも対応できるかと思います。

    それ以外は、Keras と似たような、Dataset を書けば良いわけです。

    モデルはお好みで!

    深層学習のモデルの技術革新は凄まじく、2019年に Google から発表された「EfficientNet」は、Kaggle 上で大人気です。

    その EfficientNet よりも、ImageNet での性能が良いとされているのが、「EfficientNet-Noisy-Student」。

    これは、「Self-learning」に、画像拡張のようなノイズを加えたものです。

    同じパラメーターで見た精度は、従来のものよりも向上していますね。

    というわけで今回は、「EfficientNet-Noisy-Student」の B2 を使用しました。

    ImageNet では、出力が1000次元なので、出力が1次元の FC 層に付け替えます。

    重みを読み込んでからでないと、エラーが出るので、注意が必要です。

    コード

    1class Efnet_b2_ns(nn.Module):
    2
    3    def __init__(self,weight_path):
    4        super().__init__()
    5        self.weight_path = weight_path
    6        self.model = geffnet.tf_efficientnet_b2_ns(pretrained=False)
    7        state_dict = torch.load(self.weight_path,map_location=device)
    8        self.model.load_state_dict(fix_model_state_dict(state_dict))
    9        #さいごの部分を付け替え
    10        self.model.global_pool=nn.AdaptiveAvgPool2d(1)
    11        self.model.classifier = nn.Linear(self.model.classifier.in_features, 1)
    12        
    13        
    14    def forward(self, x):
    15        x = self.model(x)#ベースのモデルの流れに同じ
    16        return x
    17def fix_model_state_dict(state_dict):
    18    from collections import OrderedDict
    19    new_state_dict = OrderedDict()
    20    for k, v in state_dict.items():
    21        name = k
    22        if name.startswith('model.'):
    23            name = name[6:]  # remove 'model.' of dataparallel
    24        new_state_dict[name] = v
    25    return new_state_dict

    精度を向上させるためには、以下のような手順を踏むのが、一般的です。

    1. 軽いモデルで試す
    2. 画像拡張の探索を行う
    3. 重いモデルを複数学習させる
    4. アンサンブル

    EfficientNet 以外では、「SE-ResNeXt」などの SE 系モデルも、試す価値があるかもしれませんね。

    評価指標はAUCを選択

    モデルの出力は「0~1」ですが、ラベルは「0」か「1」。

    そのため、F1-score などを用いると、閾値によっては精度のスコアが変してしまいます。

    ですが、ROC 曲線の曲線下面積である「AUC」を用いれば、閾値によらない精度を考えることができるのです。

    AUC は、QWK と並んで、医療データでよく扱われます。

    実装編へつづく!

    こちらの記事は、【実装編】へつづきます。

    【実装編】肺のCT画像からCOVID19かどうかの判断は可能か?2020.10.20【実装編】肺のCT画像からCOVID19かどうかの判断は可能か?【機械学習】実装編~肺のCT画像からCOVID19か予想できるのか?今回は、前回に引き続き、肺の CT 画像から、COVID 19...

    こちらの記事もオススメ!

    featureImg2020.07.28機械学習 特集知識編人工知能・機械学習でよく使われるワード徹底まとめ!機械学習の元祖「パーセプトロン」とは?【人工知能】ニューラルネ...
    featureImg2020.07.30Python 特集実装編※最新記事順Responder + Firestore でモダンかつサーバーレスなブログシステムを作ってみた!P...
    featureImg2020.07.17ライトコード的「やってみた!」シリーズ「やってみた!」を集めました!(株)ライトコードが今まで作ってきた「やってみた!」記事を集めてみました!※作成日が新し...

    広告メディア事業部

    広告メディア事業部

    おすすめ記事