Как застегнуть 2 кадра Deedle и обработать пропущенные значения? - PullRequest
Новая
       34

Как застегнуть 2 кадра Deedle и обработать пропущенные значения?

1 голос
/ 16 апреля 2020

Учитывая ценовой фрейм priceFrame как 

                       28881              29021              29399
2010-01-01 00:00:00 -> 123.535878499576   195.28635425580265 189.92210186152082
2010-01-04 00:00:00 -> 124.19087548338847 198.10448102247753 190.1571733631235
2010-01-05 00:00:00 -> 123.82028508465247 197.8259452373992  190.31388769752525
2010-01-06 00:00:00 -> 124.17363872065654 197.80956077945342 189.98478759528152
2010-01-07 00:00:00 -> 123.4583130672824  197.58017836821244 190.31388769752527
2010-01-08 00:00:00 -> 124.23396739021821 198.10448102247756 190.25120196376457
2010-01-11 00:00:00 -> 125.12166067091142 197.87509861123658 190.73701640041008
2010-01-12 00:00:00 -> 124.9234378994945  195.0569718445617  191.41088803833776
2010-01-13 00:00:00 -> 125.06133200134975 195.64681233060992 191.50491663897884
2010-01-14 00:00:00 -> 124.97514818769021 196.28580619049552 191.56760237273951
2010-01-15 00:00:00 -> 123.71686450826103 192.5829186947483  192.08475967626538
2010-01-18 00:00:00 -> 123.71686450826103 194.10667328370621 192.31983117786805
2010-01-19 00:00:00 -> 123.15666971947407 195.87619474185092 191.94371677530378
2010-01-20 00:00:00 -> 121.5622691667727  191.79646471335064 192.82131704795376
2010-01-21 00:00:00 -> 121.5450324040408  188.38849746062752 192.9937028157957
2010-01-22 00:00:00 -> 121.81220222638535 186.8647428716696  192.9937028157957
2010-01-25 00:00:00 -> 121.94147794687466 184.83307008639233 192.9937028157957
2010-01-26 00:00:00 -> 121.38990153945363 185.9799821425972  193.19743145051802
2010-01-27 00:00:00 -> 120.94174570842405 184.91499237612123 193.3541457849198
2010-01-28 00:00:00 -> 120.44187958919875 182.5392459739825  193.22877431739838
2010-01-29 00:00:00 -> 119.4938576389439  183.75169586197052 193.35414578491978

и дивидендный фрейм divFrame как 

                       28881     29021     29399
2010-01-04 00:00:00 -> 1.3       <missing> <missing>
2010-01-13 00:00:00 -> <missing> 1.3       <missing>
2010-01-22 00:00:00 -> <missing> <missing> 1.3

Я хочу объединить их так, чтобы у меня были цены + дивиденды, где дивиденды существуют, в противном случае оставьте цены прежними.

Обе следующие попытки 

let dfZipped1 = priceFrame.Zip(divFrame, JoinKind.Left, JoinKind.Left, Lookup.Exact, false, fun (p:float) d -> p + d)
        dfZipped1.Print()
        let dfZipped2 = priceFrame.Zip(divFrame, JoinKind.Left, JoinKind.Left, Lookup.Exact, true, fun (p:float) d -> p + d)
        dfZipped2.Print()

приводят к одинаковому результату 

                       28881              29021              29399
2010-01-01 00:00:00 -> <missing>          <missing>          <missing>
2010-01-04 00:00:00 -> 125.49087548338846 <missing>          <missing>
2010-01-05 00:00:00 -> <missing>          <missing>          <missing>
2010-01-06 00:00:00 -> <missing>          <missing>          <missing>
2010-01-07 00:00:00 -> <missing>          <missing>          <missing>
2010-01-08 00:00:00 -> <missing>          <missing>          <missing>
2010-01-11 00:00:00 -> <missing>          <missing>          <missing>
2010-01-12 00:00:00 -> <missing>          <missing>          <missing>
2010-01-13 00:00:00 -> <missing>          196.94681233060993 <missing>
2010-01-14 00:00:00 -> <missing>          <missing>          <missing>
2010-01-15 00:00:00 -> <missing>          <missing>          <missing>
2010-01-18 00:00:00 -> <missing>          <missing>          <missing>
2010-01-19 00:00:00 -> <missing>          <missing>          <missing>
2010-01-20 00:00:00 -> <missing>          <missing>          <missing>
2010-01-21 00:00:00 -> <missing>          <missing>          <missing>
2010-01-22 00:00:00 -> <missing>          <missing>          194.2937028157957
2010-01-25 00:00:00 -> <missing>          <missing>          <missing>
2010-01-26 00:00:00 -> <missing>          <missing>          <missing>
2010-01-27 00:00:00 -> <missing>          <missing>          <missing>
2010-01-28 00:00:00 -> <missing>          <missing>          <missing>
2010-01-29 00:00:00 -> <missing>          <missing>          <missing>

Числа, которые не являются недостающие верны. Но я хочу сохранить цены, которые не имеют дивидендов. 

let dfZipped3 = priceFrame.Zip(divFrame, JoinKind.Left, JoinKind.Left, Lookup.Exact, false, fun (p:float) d -> p + (d |> Option.defaultValue 0.0))
        dfZipped3.Print()

приводит к 

                       28881              29021              29399
2010-01-01 00:00:00 -> 123.535878499576   195.28635425580265 189.92210186152082
2010-01-04 00:00:00 -> 124.19087548338847 198.10448102247753 190.1571733631235
2010-01-05 00:00:00 -> 123.82028508465247 197.8259452373992  190.31388769752525
2010-01-06 00:00:00 -> 124.17363872065654 197.80956077945342 189.98478759528152
2010-01-07 00:00:00 -> 123.4583130672824  197.58017836821244 190.31388769752527
2010-01-08 00:00:00 -> 124.23396739021821 198.10448102247756 190.25120196376457
2010-01-11 00:00:00 -> 125.12166067091142 197.87509861123658 190.73701640041008
2010-01-12 00:00:00 -> 124.9234378994945  195.0569718445617  191.41088803833776
2010-01-13 00:00:00 -> 125.06133200134975 195.64681233060992 191.50491663897884
2010-01-14 00:00:00 -> 124.97514818769021 196.28580619049552 191.56760237273951
2010-01-15 00:00:00 -> 123.71686450826103 192.5829186947483  192.08475967626538
2010-01-18 00:00:00 -> 123.71686450826103 194.10667328370621 192.31983117786805
2010-01-19 00:00:00 -> 123.15666971947407 195.87619474185092 191.94371677530378
2010-01-20 00:00:00 -> 121.5622691667727  191.79646471335064 192.82131704795376
2010-01-21 00:00:00 -> 121.5450324040408  188.38849746062752 192.9937028157957
2010-01-22 00:00:00 -> 121.81220222638535 186.8647428716696  192.9937028157957
2010-01-25 00:00:00 -> 121.94147794687466 184.83307008639233 192.9937028157957
2010-01-26 00:00:00 -> 121.38990153945363 185.9799821425972  193.19743145051802
2010-01-27 00:00:00 -> 120.94174570842405 184.91499237612123 193.3541457849198
2010-01-28 00:00:00 -> 120.44187958919875 182.5392459739825  193.22877431739838
2010-01-29 00:00:00 -> 119.4938576389439  183.75169586197052 193.35414578491978

все цены есть, но ни один из дивидендов не был добавлен 

let dfZipped4 = priceFrame.Zip(divFrame, JoinKind.Left, JoinKind.Left, Lookup.Exact, true, fun (p:float) d -> p + (d |> Option.defaultValue 0.0))
        dfZipped4.Print()

приводит только к пропущенным значениям.

Как добавить цены к дивидендам при их выравнивании, но в противном случае оставить цены без изменений?

Обновление

Я рассчитал выполнение каждого из ответов от Фроча и Зужу. Второй ответ от zyzhu, в его нынешнем виде, не дает правильного результата.

Для 1000 последовательных прогонов каждого метода я получаю типичные времена, когда 

frocha1: 572.974400
frocha2: 562.867600
zyzhu1: 1099.057100

frocha2 постоянно немного быстрее, чем frocha1. зыжу1 всегда медленнее остальных. Так что сейчас я принимаю ответ Фрочи.

Однако, если zyzhu2 можно заставить работать, он может оказаться самым быстрым, так как он самый простой. В этом случае я изменю принятый ответ.

Ответы [ 3 ]

0 голосов
/ 17 апреля 2020

Чтобы использовать zip, оба кадра будут совпадать столбец за столбцом и добавлять две серии вместе.

В вашем случае divFrame имеет меньше наблюдений, чем priceFrame. Если две серии не имеют одинаковое количество наблюдений и суммируются, непропорциональный результат будет отсутствовать.

Это мое решение, создавая фиктивный кадр так, чтобы divFrame сначала выровнялся с priceFrame , 

let divFrame2 =
  let dummy =
    priceFrame.RowKeys
    |> Seq.collect(fun row -> divFrame.ColumnKeys |> Seq.map(fun col -> row, col, 0) )
    |> Frame.ofValues
  (dummy + divFrame).FillMissing(0.)
priceFrame + divFrame2
0 голосов
/ 23 апреля 2020

У меня похожая проблема, мое решение аналогично zyzhu, но может обрабатывать несколько кадров 

let zipAll (dfs:Frame<_,_>[]) = 
    let outerKeys = dfs |> Array.collect (fun df -> df.RowKeys |> Array.ofSeq) |> Array.distinct |> Array.sort
    let dfsNew = 
        dfs
        |> Array.map ( Frame.indexRowsWith outerKeys >> Frame.mapRowValues (Series.fillMissingWith 0.) >> Frame.ofRows)
    Array.fold (Frame.zip (+)) (Array.head dfsNew) (Array.tail dfsNew)

[|priceFrame;dividends2|] |> zipAll

это, вероятно, медленно, но может обрабатывать несколько кадров.

0 голосов
/ 16 апреля 2020

Мой подход не учитывает ограничения скорости и заключается в следующем: 1) переименовать столбцы, чтобы иметь возможность выполнить объединение без ошибок 2) объединить кадры. 3) заменить отсутствующие значения нулями. 4) суммируйте соответствующие столбцы. 5) отбросить столбцы дивидендов. 6) Необязательно: измените имя столбца priceFrame на исходный тип, если преобразование "string" нежелательно. 

module Frame =
    //I usually add this handy function to the Frame module
    let mapReplaceCol col f frame =
        frame
        |> Frame.replaceCol col (Frame.mapRowValues f frame)

let priceFrame' = priceFrame |> Frame.mapColKeys string

//appends a "D" in the col key to eliminate col with same name
let dividends' =
    dividends
    |> Frame.mapColKeys (string >> (+) "D") 

let joinedFrame =
    priceFrame'
    |> Frame.join JoinKind.Right dividends'
    |> Frame.fillMissingWith 0.

(joinedFrame,priceFrame'.ColumnKeys |> List.ofSeq)
||> List.fold (fun acc elem ->
    acc|> Frame.mapReplaceCol elem (fun row ->
        row.GetAs<float>("D" + elem) + row.GetAs<float>(elem))
    |> Frame.dropCol ("D" + elem))

EDIT

Другой подход с использованием Zip. 

//generate a dividends frame with the same rows of priceFrame
let dividends2 =
    (priceFrame,priceFrame.ColumnKeys |> List.ofSeq)
    ||> List.fold (fun acc elem -> acc|> Frame.dropCol elem) //empty frame
    |> Frame.join JoinKind.Outer dividends
    |> Frame.fillMissingWith 0.

(priceFrame,dividends2) ||> Frame.zip (fun (p : float) (d : float) -> p + d)
...