Как правильно реализовать метрику Коэна Каппа в Керасе? - PullRequest
0 голосов
/ 06 ноября 2019

Я пытался реализовать метрику Коэна-Каппа для своего проекта, используя пользовательское руководство по метрикам, предоставленное tenorflow для керас (https://www.tensorflow.org/guide/keras/train_and_evaluate#custom_metrics).

После того, как я обучил свою модель и прогнозируемый результат, я сравнил результаты с sklearn.metrics.cohen_kappa_score и это не одно и то же. Может кто-нибудь сказать, как решить эту проблему? Вот код:

class BinaryKappa(keras.metrics.Metric):
    """Stateful Metric to calculate kappa over all batches.
    Assumes predictions and targets of shape `(samples, 1)`.
    # Arguments
        name: String, name for the metric.
    """

    def __init__(self, name='glo_kappa', **kwargs):
        super(BinaryKappa, self).__init__(name=name, **kwargs)
        self.true_positives = self.add_weight(name='tp',initializer='zeros')
        self.true_negative = self.add_weight(name='tn',initializer='zeros')
        self.false_positives = self.add_weight(name='fp',initializer='zeros')
        self.false_negative = self.add_weight(name='fn',initializer='zeros')

    def reset_states(self):
        self.true_positives.assign(0.)
        self.true_negative.assign(0.)
        self.false_positives.assign(0.)
        self.false_negative.assign(0.)

    def update_state(self, y_true, y_pred, sample_weight=None):
        y_true = K.cast(y_true, 'int32')
        y_pred = K.cast(K.round(y_pred), 'int32')
        true_pos = K.cast(K.sum(y_pred * y_true),'int32')
        true_neg = K.cast(K.sum((1 - y_pred) * (1 - y_true)),'int32')
        false_pos = K.cast(K.sum(y_pred * (1 - y_true)),'int32')
        false_neg = K.cast(K.sum((1 - y_pred) * y_true),'int32')

        true_pos = K.cast(true_pos, "float32")
        true_neg = K.cast(true_neg, "float32")
        false_pos = K.cast(false_pos, "float32")
        false_neg = K.cast(false_neg, "float32")

        self.true_positives.assign_add(true_pos)
        self.true_negative.assign_add(true_neg)
        self.false_positives.assign_add(false_pos)
        self.false_negative.assign_add(false_neg)

    def result(self):
        sm = self.true_positives + self.true_negative + self.false_positives + self.false_negative
        obs_agree = (self.true_positives + self.true_negative) / sm
        poss_pos = (self.true_positives + self.false_negative) * (self.true_positives + self.false_positives) / (sm**2)
        poss_neg = (self.true_negative + self.false_negative) * (self.true_negative + self.false_positives) / (sm**2)
        poss_agree = poss_pos + poss_neg
        return (obs_agree - poss_agree) / (1 - poss_agree + K.epsilon())

1 Ответ

0 голосов
/ 07 ноября 2019

Метрика является дискретной, поэтому вам нужно приближение. Но

взгляните на tf.contrib, который реализует cohen_kappa.

https://github.com/tensorflow/tensorflow/blob/23c218785eac5bfe737eec4f8081fd0ef8e0684d/tensorflow/contrib/metrics/python/ops/metric_ops.py#L3595

или, что еще лучше, взгляните на реализацию метрики в kaggle. ком

https://www.kaggle.com/christofhenkel/weighted-kappa-loss-for-keras-tensorflow

Добро пожаловать на сайт PullRequest, где вы можете задавать вопросы и получать ответы от других членов сообщества.
...