#結果
- 280th /1695人
- Score 0.59231
以下コード（一部）
データの観察
import pandas as pd
import numpy as np
pd.set_option('display.max_columns', 100)
pd.set_option('display.max_rows', 500)
import pandas as pd
import numpy as np
from matplotlib import pyplot as plt
import seaborn as sns
from sklearn.metrics import mean_squared_error
from sklearn.preprocessing import StandardScaler
from sklearn.model_selection import train_test_split
from sklearn.pipeline import make_pipeline
from sklearn.linear_model import (
LinearRegression,
Ridge,
Lasso
)
df = pd.read_csv("./train.csv")
df.head()
| ID | Score | col1 | col2 | col3 | col4 | col5 | col6 | col7 | col8 | col9 | col10 | col11 | col12 | col13 | col14 | col15 | col16 | col17 | col18 | col19 | col20 | col21 | col22 | col23 | col24 | col25 | col26 | col27 | col28 | col29 | col30 | col31 | col32 | col33 | col34 | col35 | col36 | col37 | col38 | col39 | col40 | col41 | col42 | col43 | col44 | col45 | col46 | col47 | col48 | ... | col3756 | col3757 | col3758 | col3759 | col3760 | col3761 | col3762 | col3763 | col3764 | col3765 | col3766 | col3767 | col3768 | col3769 | col3770 | col3771 | col3772 | col3773 | col3774 | col3775 | col3776 | col3777 | col3778 | col3779 | col3780 | col3781 | col3782 | col3783 | col3784 | col3785 | col3786 | col3787 | col3788 | col3789 | col3790 | col3791 | col3792 | col3793 | col3794 | col3795 | col3796 | col3797 | col3798 | col3799 | col3800 | col3801 | col3802 | col3803 | col3804 | col3805 | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 5 | 3.475628 | 0 | 4.058 | 0.824 | 0 | 10.267 | 0.728 | 4.403 | 0.050 | 11 | 34.568 | 0 | 0 | 0 | 51.984 | 0.000 | 0.452 | 0 | 0.144 | 0 | 19.231 | -4.465 | 1.394 | 0.248 | 0.938 | 10.955 | 0 | 11.881 | 0.748 | 3.111 | 166.534 | 321.715 | 0 | 0 | 89.497 | 0 | 6.381 | 0 | 0.622 | 0 | 0 | 27.106 | 0 | 0 | 2.001 | 0 | 1.4746 | 0 | 24.603 | ... | 0.736 | 0 | 1.069 | 0 | 1.555 | 0 | 0 | 0.056 | 0 | 0 | 0 | 10.576 | 0 | 4 | 1.454 | 3.710 | 0.026 | 0.133 | 0 | 14 | 65.066 | 1.534 | 0 | 0 | 101.149 | 1.439 | 510.401 | 0 | 40.338 | 0.167 | 346.185 | 0 | 1 | 0 | 0.054 | 0 | 7.740 | 18.472 | 3.991 | 28.181 | 1.067 | 0 | 0.0 | 0.115 | 30.395 | 24.541 | 0 | 0.415 | 0.997 | 0 |
| 1 | 8 | 3.601332 | 0 | 4.111 | 0.929 | 0 | 8.352 | 0.907 | 4.216 | 0.034 | 9 | 37.527 | 0 | 0 | 0 | 52.072 | 0.000 | 0.593 | 0 | 0.041 | 0 | 20.531 | -4.495 | 3.579 | 0.221 | 1.014 | 11.311 | 0 | 8.784 | 0.783 | 4.000 | 166.190 | 369.488 | 0 | 0 | 97.191 | 0 | 7.632 | 0 | 0.894 | 0 | 0 | 41.032 | 0 | 0 | 1.104 | 0 | 1.6038 | 0 | 28.738 | ... | 0.894 | 0 | 1.080 | 0 | 0.811 | 0 | 2 | 0.050 | 0 | 0 | 1 | 12.050 | 2 | 3 | 1.712 | 3.828 | 0.034 | 0.128 | 0 | 7 | 65.701 | 1.541 | 0 | 0 | 81.683 | 1.431 | 513.483 | 0 | 40.341 | 0.197 | 313.243 | 0 | 3 | 1 | 0.048 | 0 | 7.866 | 29.724 | 4.038 | 34.404 | 0.934 | 0 | 0.0 | 0.227 | 38.508 | 35.038 | 0 | 3.979 | 0.997 | 3 |
| 2 | 9 | 1.935003 | 0 | 4.139 | 0.833 | 66 | 9.494 | 0.733 | 4.069 | 0.267 | 10 | 33.399 | 0 | 0 | 0 | 45.227 | 0.000 | 1.137 | 0 | 0.152 | 0 | 19.291 | -4.034 | 2.777 | -0.114 | 0.877 | 10.816 | 0 | 12.538 | 1.143 | 3.556 | 127.295 | 286.810 | 0 | 0 | 98.017 | 1 | 8.605 | 0 | 1.101 | 0 | 0 | 20.667 | 0 | 0 | 0.559 | 0 | 2.4008 | 0 | 29.595 | ... | 0.750 | 0 | 1.198 | 0 | 1.097 | 0 | 0 | 0.043 | 0 | 0 | 0 | 11.364 | 0 | 1 | 1.395 | 3.290 | 0.028 | 0.140 | 0 | 6 | 52.984 | 1.551 | 0 | 0 | 51.281 | 1.412 | 426.330 | 0 | 329.038 | 0.328 | 232.851 | 0 | 1 | 1 | 0.101 | 0 | 7.791 | 287.425 | 3.779 | 25.473 | 1.722 | 0 | 0.0 | 0.148 | 27.932 | 19.518 | 0 | 0.849 | 0.999 | 0 |
| 3 | 12 | 3.283663 | 0 | 4.016 | 0.880 | 0 | 8.237 | 0.836 | 3.956 | 0.129 | 7 | 33.482 | 0 | 0 | 0 | 46.585 | 0.000 | 0.653 | 0 | 0.093 | 0 | 19.484 | -4.606 | 1.777 | 0.181 | 0.870 | 11.061 | 0 | 7.244 | 0.835 | 3.111 | 145.593 | 300.451 | 0 | 0 | 88.241 | 1 | 5.577 | 0 | 0.610 | 0 | 0 | 28.644 | 0 | 0 | 1.108 | 0 | 1.6930 | 0 | 25.523 | ... | 0.819 | 1 | 1.072 | 0 | 1.847 | 0 | 2 | 0.057 | 0 | 0 | 0 | 11.413 | 0 | 2 | 1.439 | 3.541 | 0.056 | 0.128 | 0 | 18 | 60.154 | 1.495 | 0 | 0 | 73.598 | 1.316 | 464.265 | 0 | 34.760 | 0.161 | 278.355 | 0 | 4 | 0 | 0.088 | 0 | 7.673 | 24.827 | 3.832 | 30.520 | 0.993 | 0 | 0.0 | 0.124 | 18.993 | 25.403 | 0 | 0.988 | 0.998 | 0 |
| 4 | 14 | 3.409121 | 0 | 4.657 | 0.522 | 0 | 35.882 | 0.383 | 4.234 | -0.089 | 24 | 53.268 | 0 | 0 | 0 | 78.776 | 3.869 | 0.392 | 0 | 0.417 | 0 | 22.778 | -6.784 | 1.531 | -0.188 | 1.237 | 12.173 | 0 | 34.987 | 1.193 | 6.167 | 266.117 | 568.281 | 0 | 0 | 118.815 | 0 | 13.208 | 0 | 1.949 | 0 | 0 | 28.096 | 0 | 0 | 1.069 | 0 | 1.7353 | 0 | 18.630 | ... | 0.392 | 0 | 1.303 | 0 | 1.176 | 0 | 0 | 0.031 | 0 | 0 | 0 | 12.737 | 4 | 8 | 1.447 | 6.398 | 0.020 | 0.085 | 0 | 17 | 96.271 | 1.549 | 0 | 0 | 218.931 | 1.704 | 692.535 | 0 | 195.684 | 0.180 | 632.368 | 1 | 19 | 1 | 0.035 | 0 | 8.580 | 45.400 | 3.959 | 63.140 | 2.095 | 0 | 0.0 | 0.088 | 44.225 | 15.741 | 0 | 1.595 | 0.997 | 0 |
5 rows × 3807 columns
df.shape
(13731, 3807)
df.isnull().sum()
ID 0
Score 0
col1 0
col2 0
col3 0
col4 0
col5 0
col6 0
col7 0
col8 0
col9 0
col10 0
col11 0
col12 0
col13 0
col14 0
col15 0
col16 0
col17 0
col18 0
col19 0
col20 0
col21 0
col22 0
col23 0
col24 0
col25 0
col26 0
col27 0
col28 0
col29 0
col30 0
col31 0
col32 0
col33 0
col34 0
col35 0
col36 0
col37 0
col38 0
col39 0
col40 0
col41 0
col42 0
col43 0
col44 0
col45 0
col46 0
col47 0
col48 0
col49 0
col50 0
col51 0
col52 0
col53 0
col54 0
col55 0
col56 0
col57 0
col58 0
col59 0
col60 0
col61 0
col62 0
col63 0
col64 0
col65 0
col66 0
col67 0
col68 0
col69 0
col70 0
col71 0
col72 0
col73 0
col74 0
col75 0
col76 0
col77 0
col78 0
col79 0
col80 0
col81 0
col82 0
col83 0
col84 0
col85 0
col86 0
col87 0
col88 0
col89 0
col90 0
col91 0
col92 0
col93 0
col94 0
col95 0
col96 0
col97 0
col98 0
col99 0
col100 0
col101 0
col102 0
col103 0
col104 0
col105 0
col106 0
col107 0
col108 0
col109 0
col110 0
col111 0
col112 0
col113 0
col114 0
col115 0
col116 0
col117 0
col118 0
col119 0
col120 0
col121 0
col122 0
col123 0
col124 0
col125 0
col126 0
col127 0
col128 0
col129 0
col130 0
col131 0
col132 0
col133 0
col134 0
col135 0
col136 0
col137 0
col138 0
col139 0
col140 0
col141 0
col142 0
col143 0
col144 0
col145 0
col146 0
col147 0
col148 0
col149 0
col150 0
col151 0
col152 0
col153 0
col154 0
col155 0
col156 0
col157 0
col158 0
col159 0
col160 0
col161 0
col162 0
col163 0
col164 0
col165 0
col166 0
col167 0
col168 0
col169 0
col170 0
col171 0
col172 0
col173 0
col174 0
col175 0
col176 0
col177 0
col178 0
col179 0
col180 0
col181 0
col182 0
col183 0
col184 0
col185 0
col186 0
col187 0
col188 0
col189 0
col190 0
col191 0
col192 0
col193 0
col194 0
col195 0
col196 0
col197 0
col198 0
col199 0
col200 0
col201 0
col202 0
col203 0
col204 0
col205 0
col206 0
col207 0
col208 0
col209 0
col210 0
col211 0
col212 0
col213 0
col214 0
col215 0
col216 0
col217 0
col218 0
col219 0
col220 0
col221 0
col222 0
col223 0
col224 0
col225 0
col226 0
col227 0
col228 0
col229 0
col230 0
col231 0
col232 0
col233 0
col234 0
col235 0
col236 0
col237 0
col238 0
col239 0
col240 0
col241 0
col242 0
col243 0
col244 0
col245 0
col246 0
col247 0
col248 0
..
col3556 0
col3557 0
col3558 0
col3559 0
col3560 0
col3561 0
col3562 0
col3563 0
col3564 0
col3565 0
col3566 0
col3567 0
col3568 0
col3569 0
col3570 0
col3571 0
col3572 0
col3573 0
col3574 0
col3575 0
col3576 0
col3577 0
col3578 0
col3579 0
col3580 0
col3581 0
col3582 0
col3583 0
col3584 0
col3585 0
col3586 0
col3587 0
col3588 0
col3589 0
col3590 0
col3591 0
col3592 0
col3593 0
col3594 0
col3595 0
col3596 0
col3597 0
col3598 0
col3599 0
col3600 0
col3601 0
col3602 0
col3603 0
col3604 0
col3605 0
col3606 0
col3607 0
col3608 0
col3609 0
col3610 0
col3611 0
col3612 0
col3613 0
col3614 0
col3615 0
col3616 0
col3617 0
col3618 0
col3619 0
col3620 0
col3621 0
col3622 0
col3623 0
col3624 0
col3625 0
col3626 0
col3627 0
col3628 0
col3629 0
col3630 0
col3631 0
col3632 0
col3633 0
col3634 0
col3635 0
col3636 0
col3637 0
col3638 0
col3639 0
col3640 0
col3641 0
col3642 0
col3643 0
col3644 0
col3645 0
col3646 0
col3647 0
col3648 0
col3649 0
col3650 0
col3651 0
col3652 0
col3653 0
col3654 0
col3655 0
col3656 0
col3657 0
col3658 0
col3659 0
col3660 0
col3661 0
col3662 0
col3663 0
col3664 0
col3665 0
col3666 0
col3667 0
col3668 0
col3669 0
col3670 0
col3671 0
col3672 0
col3673 0
col3674 0
col3675 0
col3676 0
col3677 0
col3678 0
col3679 0
col3680 0
col3681 0
col3682 0
col3683 0
col3684 0
col3685 0
col3686 0
col3687 0
col3688 0
col3689 0
col3690 0
col3691 0
col3692 0
col3693 0
col3694 0
col3695 0
col3696 0
col3697 0
col3698 0
col3699 0
col3700 0
col3701 0
col3702 0
col3703 0
col3704 0
col3705 0
col3706 0
col3707 0
col3708 0
col3709 0
col3710 0
col3711 0
col3712 0
col3713 0
col3714 0
col3715 0
col3716 0
col3717 0
col3718 0
col3719 0
col3720 0
col3721 0
col3722 0
col3723 0
col3724 0
col3725 0
col3726 0
col3727 0
col3728 0
col3729 0
col3730 0
col3731 0
col3732 0
col3733 0
col3734 0
col3735 0
col3736 0
col3737 0
col3738 0
col3739 0
col3740 0
col3741 0
col3742 0
col3743 0
col3744 0
col3745 0
col3746 0
col3747 0
col3748 0
col3749 0
col3750 0
col3751 0
col3752 0
col3753 0
col3754 0
col3755 0
col3756 0
col3757 0
col3758 0
col3759 0
col3760 0
col3761 0
col3762 0
col3763 0
col3764 0
col3765 0
col3766 0
col3767 0
col3768 0
col3769 0
col3770 0
col3771 0
col3772 0
col3773 0
col3774 0
col3775 0
col3776 0
col3777 0
col3778 0
col3779 0
col3780 0
col3781 0
col3782 0
col3783 0
col3784 0
col3785 0
col3786 0
col3787 0
col3788 0
col3789 0
col3790 0
col3791 0
col3792 0
col3793 0
col3794 0
col3795 0
col3796 0
col3797 0
col3798 0
col3799 0
col3800 0
col3801 0
col3802 0
col3803 0
col3804 0
col3805 0
Length: 3807, dtype: int64
#データ量を1/10にする(グリッドサーチ用、パラメータ調整後は全部のデータで学習)
df_1 = df.sample(frac=0.1)
df_1.shape
(1373, 3807)
# データの分割
X = df.drop(['Score'],axis=1)
y = df['Score']
low_X = df_1.drop(['Score'],axis=1)
low_y = df_1['Score']
# trainデータ, testデータへの分割
from sklearn.model_selection import train_test_split
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=0)
low_X_train, low_X_test, low_y_train, low_y_test = train_test_split(low_X, low_y, test_size=0.2, random_state=0)
ElasticNet
# GridSearchによるパラメータチューニング
from sklearn.linear_model import ElasticNet
from sklearn.model_selection import GridSearchCV
from sklearn.metrics import mean_squared_error
from sklearn.metrics import r2_score
# grid search
parameter_range = [{'alpha': [0.00001, 0.0001, 0.001, 0.01, 0.1, 1],
'l1_ratio' : [0.001, 0.01, 0.1, 1]}]
model = GridSearchCV(estimator = ElasticNet(normalize=True, max_iter=10000),
param_grid = parameter_range,
cv = 4,
scoring="r2")
model.fit(low_X_train, low_y_train)
# best estimator
print('Best score reached: {} with params: {} '.format(model.best_score_, model.best_params_))
EN_best_model = model.best_estimator_
EN_pred = EN_best_model.predict(low_X_test)
EN_score = r2_score(low_y_test, EN_pred)
print('ElasticNet(tuned) R2 score: %.3f' % EN_score)
Best score reached: 0.2940054061588846 with params: {'alpha': 0.001, 'l1_ratio': 1}
ElasticNet(tuned) R2 score: 0.239
print('Best score reached: {} with params: {} '.format(model.best_score_, model.best_params_))
Best score reached: 0.2940054061588846 with params: {'alpha': 0.001, 'l1_ratio': 1}
# Cross Validationによる予測精度の評価
from sklearn.model_selection import cross_validate
from sklearn.metrics import mean_squared_error, r2_score, make_scorer
# 誤差関数の定義
def root_mean_squared_error(y_true, y_pred):
return np.sqrt(mean_squared_error(y_true, y_pred))
def median_absolute_error_rate(y_true, y_pred):
return np.median(np.absolute(y_true - y_pred) / y_true)
# Cross Validationで使う誤差関数のセット
scoring = {"r2": "r2",
"RMSE":make_scorer(root_mean_squared_error),
"MER":make_scorer(median_absolute_error_rate)}
# cross_validate
scores = cross_validate(EN_best_model, low_X_train, low_y_train, cv = 4, scoring = scoring, return_train_score=False)
for key,value in scores.items():
print("{}:{:.3g}+/-{:.3g}".format(key, value.mean(), value.std()))
# モデルを格納
best_model_EN = EN_best_model
# 結果を格納
cv_accuracy_EN = pd.DataFrame(scores)[['test_r2','test_RMSE','test_MER']].mean()
fit_time:0.277+/-0.11
score_time:0.0118+/-0.00265
test_r2:0.294+/-0.0229
test_RMSE:0.753+/-0.0104
test_MER:0.237+/-0.0112
# 予測値の算出
y_pred = pd.Series(best_model_EN.predict(low_X_test))
y_pred.name = 'predicted'
# 誤差を算出
y_true = low_y_test.reset_index(drop=True)
print('R2:', '{:.3g}'.format(r2_score(y_true, y_pred)))
print('RMSE:', '{:.3g}'.format(root_mean_squared_error(y_true, y_pred)))
print('MER:', '{:.3g}'.format(median_absolute_error_rate(y_true, y_pred)))
R2: 0.239
RMSE: 0.776
MER: 0.221
# 予測-実測プロット
sns.regplot(y_true, y_pred)
/anaconda3/lib/python3.6/site-packages/scipy/stats/stats.py:1713: FutureWarning: Using a non-tuple sequence for multidimensional indexing is deprecated; use `arr[tuple(seq)]` instead of `arr[seq]`. In the future this will be interpreted as an array index, `arr[np.array(seq)]`, which will result either in an error or a different result.
return np.add.reduce(sorted[indexer] * weights, axis=axis) / sumval
<matplotlib.axes._subplots.AxesSubplot at 0x1041ca748>
/anaconda3/lib/python3.6/site-packages/matplotlib/font_manager.py:1328: UserWarning: findfont: Font family ['IPAexGothic'] not found. Falling back to DejaVu Sans
(prop.get_family(), self.defaultFamily[fontext]))
RandomForest
# GridSearchによるパラメータチューニング
from sklearn.ensemble import RandomForestRegressor
from sklearn.model_selection import GridSearchCV
from sklearn.metrics import mean_squared_error
# grid search
parameter_range = [{'n_estimators': [20, 50, 100, 200],
'max_depth' : [5, 10, 50, 100, 200]}]
model = GridSearchCV(estimator = RandomForestRegressor(),
param_grid = {'n_estimators': [50],'max_depth' : [10]},
cv = 4,
scoring = 'r2')
# model = RandomForestRegressor()
model.fit(low_X_train, low_y_train)
# best estimator
best_model = model.best_estimator_
# best estimator
# print('Best score reached: {} with params: {} '.format(model.best_score_, model.best_params_))
# best_model = model.best_estimator_
pred = best_model_RF.predict(low_X_test)
score = r2_score(low_y_test, pred)
print('ElasticNet(tuned) R2 score: %.3f' % score)
scores = cross_validate(best_model_RF, low_X_train, low_y_train, cv = 4, scoring = scoring, return_train_score=False)
for key,value in scores.items():
print("{}:{:.3g}+/-{:.3g}".format(key, value.mean(), value.std()))
cv_accuracy_RF = pd.DataFrame(scores)[['test_r2','test_RMSE','test_MER']].mean()
ElasticNet(tuned) R2 score: 0.262
fit_time:35.8+/-0.789
score_time:0.0248+/-0.00149
test_r2:0.34+/-0.0224
test_RMSE:0.728+/-0.0192
test_MER:0.217+/-0.0166
best_model_RF = best_model
# feature importances
fi = best_model_RF.feature_importances_
fi_df = pd.DataFrame({'feature': list(low_X_train.columns),
'feature importance': fi[:]}).sort_values('feature importance', ascending = False)
fi_df
| feature | feature importance | |
|---|---|---|
| 88 | col88 | 0.226202 |
| 1183 | col1183 | 0.009415 |
| 1193 | col1193 | 0.009010 |
| 555 | col555 | 0.008515 |
| 3448 | col3448 | 0.007862 |
| 1050 | col1050 | 0.005495 |
| 374 | col374 | 0.005478 |
| 3112 | col3112 | 0.005156 |
| 3651 | col3651 | 0.004921 |
| 1474 | col1474 | 0.004844 |
| 3660 | col3660 | 0.004832 |
| 2525 | col2525 | 0.004411 |
| 1316 | col1316 | 0.004036 |
| 866 | col866 | 0.003956 |
| 3734 | col3734 | 0.003776 |
| 1230 | col1230 | 0.003738 |
| 1146 | col1146 | 0.003675 |
| 2908 | col2908 | 0.003645 |
| 2132 | col2132 | 0.003343 |
| 2614 | col2614 | 0.003342 |
| 1855 | col1855 | 0.003327 |
| 68 | col68 | 0.003027 |
| 255 | col255 | 0.002900 |
| 2270 | col2270 | 0.002866 |
| 1162 | col1162 | 0.002823 |
| 210 | col210 | 0.002747 |
| 1649 | col1649 | 0.002524 |
| 1361 | col1361 | 0.002469 |
| 3442 | col3442 | 0.002417 |
| 2480 | col2480 | 0.002412 |
| 1604 | col1604 | 0.002333 |
| 678 | col678 | 0.002219 |
| 436 | col436 | 0.002164 |
| 3699 | col3699 | 0.002149 |
| 779 | col779 | 0.002142 |
| 3483 | col3483 | 0.002119 |
| 1190 | col1190 | 0.002112 |
| 847 | col847 | 0.002111 |
| 360 | col360 | 0.002105 |
| 447 | col447 | 0.002091 |
| 2873 | col2873 | 0.002085 |
| 1676 | col1676 | 0.002019 |
| 862 | col862 | 0.001962 |
| 3111 | col3111 | 0.001957 |
| 3198 | col3198 | 0.001939 |
| 1132 | col1132 | 0.001932 |
| 2685 | col2685 | 0.001917 |
| 2174 | col2174 | 0.001804 |
| 104 | col104 | 0.001803 |
| 3474 | col3474 | 0.001794 |
| 2816 | col2816 | 0.001784 |
| 2902 | col2902 | 0.001781 |
| 296 | col296 | 0.001767 |
| 2187 | col2187 | 0.001746 |
| 2640 | col2640 | 0.001709 |
| 2679 | col2679 | 0.001660 |
| 2531 | col2531 | 0.001641 |
| 2791 | col2791 | 0.001641 |
| 1117 | col1117 | 0.001633 |
| 3051 | col3051 | 0.001597 |
| 1075 | col1075 | 0.001574 |
| 2006 | col2006 | 0.001552 |
| 1161 | col1161 | 0.001523 |
| 596 | col596 | 0.001523 |
| 3099 | col3099 | 0.001519 |
| 890 | col890 | 0.001517 |
| 1353 | col1353 | 0.001511 |
| 3035 | col3035 | 0.001501 |
| 951 | col951 | 0.001485 |
| 1597 | col1597 | 0.001469 |
| 382 | col382 | 0.001440 |
| 1615 | col1615 | 0.001436 |
| 611 | col611 | 0.001434 |
| 2660 | col2660 | 0.001409 |
| 3760 | col3760 | 0.001406 |
| 1972 | col1972 | 0.001397 |
| 2443 | col2443 | 0.001389 |
| 3559 | col3559 | 0.001387 |
| 1113 | col1113 | 0.001359 |
| 723 | col723 | 0.001349 |
| 3777 | col3777 | 0.001345 |
| 2244 | col2244 | 0.001342 |
| 1222 | col1222 | 0.001333 |
| 3758 | col3758 | 0.001320 |
| 1713 | col1713 | 0.001318 |
| 3215 | col3215 | 0.001312 |
| 101 | col101 | 0.001296 |
| 1993 | col1993 | 0.001290 |
| 953 | col953 | 0.001286 |
| 1455 | col1455 | 0.001278 |
| 3263 | col3263 | 0.001274 |
| 1154 | col1154 | 0.001266 |
| 3305 | col3305 | 0.001265 |
| 826 | col826 | 0.001265 |
| 1651 | col1651 | 0.001256 |
| 1212 | col1212 | 0.001245 |
| 3327 | col3327 | 0.001241 |
| 2537 | col2537 | 0.001241 |
| 2834 | col2834 | 0.001235 |
| 71 | col71 | 0.001226 |
| 929 | col929 | 0.001220 |
| 3220 | col3220 | 0.001219 |
| 902 | col902 | 0.001217 |
| 3116 | col3116 | 0.001212 |
| 416 | col416 | 0.001212 |
| 1348 | col1348 | 0.001211 |
| 307 | col307 | 0.001209 |
| 2621 | col2621 | 0.001205 |
| 1966 | col1966 | 0.001181 |
| 3090 | col3090 | 0.001177 |
| 3043 | col3043 | 0.001176 |
| 454 | col454 | 0.001175 |
| 677 | col677 | 0.001175 |
| 1879 | col1879 | 0.001171 |
| 1011 | col1011 | 0.001169 |
| 3486 | col3486 | 0.001166 |
| 3426 | col3426 | 0.001164 |
| 1134 | col1134 | 0.001156 |
| 1234 | col1234 | 0.001154 |
| 912 | col912 | 0.001152 |
| 1935 | col1935 | 0.001144 |
| 2329 | col2329 | 0.001143 |
| 1739 | col1739 | 0.001139 |
| 329 | col329 | 0.001138 |
| 3775 | col3775 | 0.001134 |
| 2202 | col2202 | 0.001124 |
| 2219 | col2219 | 0.001120 |
| 773 | col773 | 0.001120 |
| 3341 | col3341 | 0.001117 |
| 1039 | col1039 | 0.001117 |
| 1559 | col1559 | 0.001107 |
| 2716 | col2716 | 0.001104 |
| 1525 | col1525 | 0.001100 |
| 2268 | col2268 | 0.001099 |
| 1363 | col1363 | 0.001098 |
| 3224 | col3224 | 0.001096 |
| 2011 | col2011 | 0.001091 |
| 671 | col671 | 0.001091 |
| 2874 | col2874 | 0.001088 |
| 0 | ID | 0.001079 |
| 2106 | col2106 | 0.001079 |
| 3192 | col3192 | 0.001073 |
| 2560 | col2560 | 0.001072 |
| 2608 | col2608 | 0.001071 |
| 1008 | col1008 | 0.001071 |
| 167 | col167 | 0.001071 |
| 1531 | col1531 | 0.001068 |
| 1938 | col1938 | 0.001063 |
| 1384 | col1384 | 0.001058 |
| 3150 | col3150 | 0.001055 |
| 3454 | col3454 | 0.001053 |
| 3653 | col3653 | 0.001053 |
| 3194 | col3194 | 0.001052 |
| 3625 | col3625 | 0.001051 |
| 3729 | col3729 | 0.001045 |
| 3376 | col3376 | 0.001042 |
| 2393 | col2393 | 0.001039 |
| 419 | col419 | 0.001038 |
| 3785 | col3785 | 0.001034 |
| 1881 | col1881 | 0.001033 |
| 1462 | col1462 | 0.001031 |
| 961 | col961 | 0.001030 |
| 2221 | col2221 | 0.001026 |
| 681 | col681 | 0.001023 |
| 248 | col248 | 0.001023 |
| 2179 | col2179 | 0.001021 |
| 2785 | col2785 | 0.001015 |
| 2705 | col2705 | 0.001015 |
| 3372 | col3372 | 0.001015 |
| 3438 | col3438 | 0.001010 |
| 918 | col918 | 0.001008 |
| 3003 | col3003 | 0.001006 |
| 462 | col462 | 0.001001 |
| 3463 | col3463 | 0.001001 |
| 2291 | col2291 | 0.000996 |
| 3275 | col3275 | 0.000996 |
| 48 | col48 | 0.000994 |
| 1128 | col1128 | 0.000993 |
| 3387 | col3387 | 0.000993 |
| 3243 | col3243 | 0.000993 |
| 1822 | col1822 | 0.000990 |
| 2850 | col2850 | 0.000988 |
| 1707 | col1707 | 0.000983 |
| 3182 | col3182 | 0.000981 |
| 2032 | col2032 | 0.000977 |
| 2729 | col2729 | 0.000973 |
| 3017 | col3017 | 0.000972 |
| 1026 | col1026 | 0.000956 |
| 2095 | col2095 | 0.000952 |
| 182 | col182 | 0.000951 |
| 1619 | col1619 | 0.000950 |
| 3668 | col3668 | 0.000948 |
| 1903 | col1903 | 0.000946 |
| 816 | col816 | 0.000943 |
| 3763 | col3763 | 0.000936 |
| 225 | col225 | 0.000936 |
| 398 | col398 | 0.000930 |
| 272 | col272 | 0.000929 |
| 2888 | col2888 | 0.000927 |
| 2821 | col2821 | 0.000924 |
| 3023 | col3023 | 0.000923 |
| 831 | col831 | 0.000921 |
| 3229 | col3229 | 0.000917 |
| 766 | col766 | 0.000917 |
| 18 | col18 | 0.000916 |
| 768 | col768 | 0.000912 |
| 1135 | col1135 | 0.000911 |
| 2953 | col2953 | 0.000911 |
| 2252 | col2252 | 0.000908 |
| 1848 | col1848 | 0.000904 |
| 2511 | col2511 | 0.000903 |
| 2328 | col2328 | 0.000899 |
| 3214 | col3214 | 0.000897 |
| 2298 | col2298 | 0.000884 |
| 2457 | col2457 | 0.000878 |
| 2240 | col2240 | 0.000875 |
| 1440 | col1440 | 0.000874 |
| 2835 | col2835 | 0.000869 |
| 1948 | col1948 | 0.000869 |
| 2169 | col2169 | 0.000866 |
| 1061 | col1061 | 0.000865 |
| 2789 | col2789 | 0.000865 |
| 3502 | col3502 | 0.000864 |
| 46 | col46 | 0.000863 |
| 1737 | col1737 | 0.000862 |
| 3110 | col3110 | 0.000862 |
| 3709 | col3709 | 0.000859 |
| 1907 | col1907 | 0.000851 |
| 3748 | col3748 | 0.000851 |
| 222 | col222 | 0.000850 |
| 945 | col945 | 0.000847 |
| 2694 | col2694 | 0.000847 |
| 3557 | col3557 | 0.000846 |
| 3803 | col3803 | 0.000844 |
| 3543 | col3543 | 0.000844 |
| 2025 | col2025 | 0.000839 |
| 2216 | col2216 | 0.000837 |
| 767 | col767 | 0.000835 |
| 1742 | col1742 | 0.000835 |
| 2401 | col2401 | 0.000831 |
| 2121 | col2121 | 0.000830 |
| 1606 | col1606 | 0.000829 |
| 3574 | col3574 | 0.000825 |
| 3719 | col3719 | 0.000822 |
| 744 | col744 | 0.000808 |
| 1602 | col1602 | 0.000808 |
| 27 | col27 | 0.000808 |
| 2435 | col2435 | 0.000808 |
| 2862 | col2862 | 0.000807 |
| 1319 | col1319 | 0.000804 |
| ... | ... | ... |
| 880 | col880 | 0.000000 |
| 3167 | col3167 | 0.000000 |
| 878 | col878 | 0.000000 |
| 3169 | col3169 | 0.000000 |
| 875 | col875 | 0.000000 |
| 2483 | col2483 | 0.000000 |
| 3172 | col3172 | 0.000000 |
| 1912 | col1912 | 0.000000 |
| 1803 | col1803 | 0.000000 |
| 2942 | col2942 | 0.000000 |
| 3107 | col3107 | 0.000000 |
| 2162 | col2162 | 0.000000 |
| 1905 | col1905 | 0.000000 |
| 43 | col43 | 0.000000 |
| 940 | col940 | 0.000000 |
| 943 | col943 | 0.000000 |
| 1581 | col1581 | 0.000000 |
| 3106 | col3106 | 0.000000 |
| 3135 | col3135 | 0.000000 |
| 3105 | col3105 | 0.000000 |
| 3103 | col3103 | 0.000000 |
| 1 | col1 | 0.000000 |
| 949 | col949 | 0.000000 |
| 1580 | col1580 | 0.000000 |
| 45 | col45 | 0.000000 |
| 938 | col938 | 0.000000 |
| 42 | col42 | 0.000000 |
| 936 | col936 | 0.000000 |
| 3118 | col3118 | 0.000000 |
| 2495 | col2495 | 0.000000 |
| 3120 | col3120 | 0.000000 |
| 1908 | col1908 | 0.000000 |
| 2160 | col2160 | 0.000000 |
| 1910 | col1910 | 0.000000 |
| 932 | col932 | 0.000000 |
| 2158 | col2158 | 0.000000 |
| 3128 | col3128 | 0.000000 |
| 2157 | col2157 | 0.000000 |
| 1911 | col1911 | 0.000000 |
| 3132 | col3132 | 0.000000 |
| 919 | col919 | 0.000000 |
| 3134 | col3134 | 0.000000 |
| 872 | col872 | 0.000000 |
| 2151 | col2151 | 0.000000 |
| 1598 | col1598 | 0.000000 |
| 2472 | col2472 | 0.000000 |
| 1611 | col1611 | 0.000000 |
| 1801 | col1801 | 0.000000 |
| 814 | col814 | 0.000000 |
| 3223 | col3223 | 0.000000 |
| 3222 | col3222 | 0.000000 |
| 3221 | col3221 | 0.000000 |
| 815 | col815 | 0.000000 |
| 2481 | col2481 | 0.000000 |
| 1608 | col1608 | 0.000000 |
| 818 | col818 | 0.000000 |
| 3216 | col3216 | 0.000000 |
| 2142 | col2142 | 0.000000 |
| 822 | col822 | 0.000000 |
| 1926 | col1926 | 0.000000 |
| 1613 | col1613 | 0.000000 |
| 3230 | col3230 | 0.000000 |
| 3231 | col3231 | 0.000000 |
| 3232 | col3232 | 0.000000 |
| 3233 | col3233 | 0.000000 |
| 804 | col804 | 0.000000 |
| 2466 | col2466 | 0.000000 |
| 802 | col802 | 0.000000 |
| 1614 | col1614 | 0.000000 |
| 2464 | col2464 | 0.000000 |
| 800 | col800 | 0.000000 |
| 2138 | col2138 | 0.000000 |
| 33 | col33 | 0.000000 |
| 797 | col797 | 0.000000 |
| 796 | col796 | 0.000000 |
| 3247 | col3247 | 0.000000 |
| 2136 | col2136 | 0.000000 |
| 165 | col165 | 0.000000 |
| 827 | col827 | 0.000000 |
| 830 | col830 | 0.000000 |
| 1916 | col1916 | 0.000000 |
| 868 | col868 | 0.000000 |
| 867 | col867 | 0.000000 |
| 78 | col78 | 0.000000 |
| 860 | col860 | 0.000000 |
| 40 | col40 | 0.000000 |
| 858 | col858 | 0.000000 |
| 3184 | col3184 | 0.000000 |
| 2479 | col2479 | 0.000000 |
| 855 | col855 | 0.000000 |
| 3187 | col3187 | 0.000000 |
| 854 | col854 | 0.000000 |
| 3189 | col3189 | 0.000000 |
| 1600 | col1600 | 0.000000 |
| 39 | col39 | 0.000000 |
| 851 | col851 | 0.000000 |
| 834 | col834 | 0.000000 |
| 1605 | col1605 | 0.000000 |
| 1923 | col1923 | 0.000000 |
| 848 | col848 | 0.000000 |
| 37 | col37 | 0.000000 |
| 2476 | col2476 | 0.000000 |
| 845 | col845 | 0.000000 |
| 844 | col844 | 0.000000 |
| 843 | col843 | 0.000000 |
| 1607 | col1607 | 0.000000 |
| 3204 | col3204 | 0.000000 |
| 3205 | col3205 | 0.000000 |
| 837 | col837 | 0.000000 |
| 836 | col836 | 0.000000 |
| 1816 | col1816 | 0.000000 |
| 156 | col156 | 0.000000 |
| 952 | col952 | 0.000000 |
| 3095 | col3095 | 0.000000 |
| 1875 | col1875 | 0.000000 |
| 2191 | col2191 | 0.000000 |
| 1056 | col1056 | 0.000000 |
| 2998 | col2998 | 0.000000 |
| 1057 | col1057 | 0.000000 |
| 2996 | col2996 | 0.000000 |
| 2995 | col2995 | 0.000000 |
| 2993 | col2993 | 0.000000 |
| 2184 | col2184 | 0.000000 |
| 2991 | col2991 | 0.000000 |
| 1058 | col1058 | 0.000000 |
| 2515 | col2515 | 0.000000 |
| 1065 | col1065 | 0.000000 |
| 2986 | col2986 | 0.000000 |
| 1069 | col1069 | 0.000000 |
| 1055 | col1055 | 0.000000 |
| 52 | col52 | 0.000000 |
| 149 | col149 | 0.000000 |
| 2190 | col2190 | 0.000000 |
| 3006 | col3006 | 0.000000 |
| 1048 | col1048 | 0.000000 |
| 3008 | col3008 | 0.000000 |
| 3009 | col3009 | 0.000000 |
| 2189 | col2189 | 0.000000 |
| 2188 | col2188 | 0.000000 |
| 1042 | col1042 | 0.000000 |
| 3013 | col3013 | 0.000000 |
| 1876 | col1876 | 0.000000 |
| 1568 | col1568 | 0.000000 |
| 51 | col51 | 0.000000 |
| 150 | col150 | 0.000000 |
| 1036 | col1036 | 0.000000 |
| 1564 | col1564 | 0.000000 |
| 1072 | col1072 | 0.000000 |
| 1074 | col1074 | 0.000000 |
| 2960 | col2960 | 0.000000 |
| 1556 | col1556 | 0.000000 |
| 1106 | col1106 | 0.000000 |
| 2947 | col2947 | 0.000000 |
| 2948 | col2948 | 0.000000 |
| 1104 | col1104 | 0.000000 |
| 2275 | col2275 | 0.000000 |
| 2951 | col2951 | 0.000000 |
| 2520 | col2520 | 0.000000 |
| 1099 | col1099 | 0.000000 |
| 1096 | col1096 | 0.000000 |
| 2956 | col2956 | 0.000000 |
| 1093 | col1093 | 0.000000 |
| 2958 | col2958 | 0.000000 |
| 1092 | col1092 | 0.000000 |
| 1089 | col1089 | 0.000000 |
| 148 | col148 | 0.000000 |
| 1088 | col1088 | 0.000000 |
| 2965 | col2965 | 0.000000 |
| 1086 | col1086 | 0.000000 |
| 1084 | col1084 | 0.000000 |
| 2968 | col2968 | 0.000000 |
| 1083 | col1083 | 0.000000 |
| 2971 | col2971 | 0.000000 |
| 2973 | col2973 | 0.000000 |
| 2974 | col2974 | 0.000000 |
| 2975 | col2975 | 0.000000 |
| 2518 | col2518 | 0.000000 |
| 1077 | col1077 | 0.000000 |
| 1870 | col1870 | 0.000000 |
| 1076 | col1076 | 0.000000 |
| 3020 | col3020 | 0.000000 |
| 1570 | col1570 | 0.000000 |
| 3094 | col3094 | 0.000000 |
| 3070 | col3070 | 0.000000 |
| 979 | col979 | 0.000000 |
| 2502 | col2502 | 0.000000 |
| 1901 | col1901 | 0.000000 |
| 2170 | col2170 | 0.000000 |
| 982 | col982 | 0.000000 |
| 1900 | col1900 | 0.000000 |
| 3069 | col3069 | 0.000000 |
| 1035 | col1035 | 0.000000 |
| 986 | col986 | 0.000000 |
| 1577 | col1577 | 0.000000 |
| 1899 | col1899 | 0.000000 |
| 989 | col989 | 0.000000 |
| 2173 | col2173 | 0.000000 |
| 1575 | col1575 | 0.000000 |
| 3077 | col3077 | 0.000000 |
| 978 | col978 | 0.000000 |
| 977 | col977 | 0.000000 |
| 2501 | col2501 | 0.000000 |
| 974 | col974 | 0.000000 |
| 1578 | col1578 | 0.000000 |
| 3083 | col3083 | 0.000000 |
| 3084 | col3084 | 0.000000 |
| 973 | col973 | 0.000000 |
| 971 | col971 | 0.000000 |
| 3087 | col3087 | 0.000000 |
| 1579 | col1579 | 0.000000 |
| 2167 | col2167 | 0.000000 |
| 2166 | col2166 | 0.000000 |
| 2165 | col2165 | 0.000000 |
| 956 | col956 | 0.000000 |
| 955 | col955 | 0.000000 |
| 2505 | col2505 | 0.000000 |
| 1574 | col1574 | 0.000000 |
| 3060 | col3060 | 0.000000 |
| 1887 | col1887 | 0.000000 |
| 1034 | col1034 | 0.000000 |
| 3025 | col3025 | 0.000000 |
| 1029 | col1029 | 0.000000 |
| 1883 | col1883 | 0.000000 |
| 1022 | col1022 | 0.000000 |
| 3030 | col3030 | 0.000000 |
| 3032 | col3032 | 0.000000 |
| 3033 | col3033 | 0.000000 |
| 3034 | col3034 | 0.000000 |
| 1886 | col1886 | 0.000000 |
| 3036 | col3036 | 0.000000 |
| 1018 | col1018 | 0.000000 |
| 1017 | col1017 | 0.000000 |
| 3039 | col3039 | 0.000000 |
| 3041 | col3041 | 0.000000 |
| 92 | col92 | 0.000000 |
| 3042 | col3042 | 0.000000 |
| 3045 | col3045 | 0.000000 |
| 2509 | col2509 | 0.000000 |
| 1888 | col1888 | 0.000000 |
| 1893 | col1893 | 0.000000 |
| 3050 | col3050 | 0.000000 |
| 47 | col47 | 0.000000 |
| 1896 | col1896 | 0.000000 |
| 3053 | col3053 | 0.000000 |
| 1007 | col1007 | 0.000000 |
| 1898 | col1898 | 0.000000 |
| 1005 | col1005 | 0.000000 |
| 1004 | col1004 | 0.000000 |
| 1571 | col1571 | 0.000000 |
| 999 | col999 | 0.000000 |
3806 rows × 2 columns
LightGBM
import lightgbm as lgb
# grid search
parameter_range = {'num_leaves': [5, 10, 20],
'learning_rate': [0.01, 0.1, 1],
'n_estimators': [100, 200, 500],
'max_depth': [2, 4, 6, 8, 10, -1]}
model = GridSearchCV(estimator = lgb.LGBMRegressor(),
param_grid = parameter_range,
cv = 4,
scoring = 'neg_mean_squared_error')
model = lgb.LGBMRegressor()
model.fit(low_X_train, low_y_train)
LGBMRegressor(boosting_type='gbdt', class_weight=None, colsample_bytree=1.0,
importance_type='split', learning_rate=0.1, max_depth=-1,
min_child_samples=20, min_child_weight=0.001, min_split_gain=0.0,
n_estimators=100, n_jobs=-1, num_leaves=31, objective=None,
random_state=None, reg_alpha=0.0, reg_lambda=0.0, silent=True,
subsample=1.0, subsample_for_bin=200000, subsample_freq=0)
best_model_LGBM = best_model
scores = cross_validate(best_model_LGBM, low_X_train, low_y_train, cv = 4, scoring = scoring, return_train_score=False)
for key,value in scores.items():
print("{}:{:.3g}+/-{:.3g}".format(key, value.mean(), value.std()))
cv_accuracy_LGBM = pd.DataFrame(scores)[['test_r2','test_RMSE','test_MER']].mean()
fit_time:35.8+/-0.319
score_time:0.0248+/-0.00116
test_r2:0.318+/-0.0194
test_RMSE:0.74+/-0.0195
test_MER:0.221+/-0.0105
# Feature Importances
fti = model.feature_importances_
print('Feature Importances:')
for i, feat in enumerate(X):
print('\t{0:10s} : {1:>12.4f}'.format(feat, fti[i]))
Feature Importances:
ID : 6.0000
col1 : 0.0000
col2 : 0.0000
col3 : 1.0000
col4 : 0.0000
col5 : 1.0000
col6 : 0.0000
col7 : 2.0000
col8 : 2.0000
col9 : 0.0000
col10 : 0.0000
col11 : 0.0000
col12 : 0.0000
col13 : 0.0000
col14 : 0.0000
col15 : 3.0000
col16 : 2.0000
col17 : 0.0000
col18 : 0.0000
col19 : 0.0000
col20 : 0.0000
col21 : 2.0000
col22 : 1.0000
col23 : 2.0000
col24 : 0.0000
col25 : 0.0000
col26 : 0.0000
col27 : 2.0000
col28 : 0.0000
col29 : 0.0000
col30 : 0.0000
col31 : 0.0000
col32 : 0.0000
col33 : 0.0000
col34 : 2.0000
col35 : 0.0000
col36 : 0.0000
col37 : 0.0000
col38 : 4.0000
col39 : 0.0000
col40 : 0.0000
col41 : 0.0000
col42 : 0.0000
col43 : 0.0000
col44 : 1.0000
col45 : 0.0000
col46 : 2.0000
col47 : 0.0000
col48 : 1.0000
col49 : 0.0000
col50 : 0.0000
col51 : 0.0000
col52 : 0.0000
col53 : 0.0000
col54 : 1.0000
col55 : 0.0000
col56 : 3.0000
col57 : 2.0000
col58 : 0.0000
col59 : 0.0000
col60 : 0.0000
col61 : 0.0000
col62 : 0.0000
col63 : 0.0000
col64 : 0.0000
col65 : 1.0000
col66 : 0.0000
col67 : 0.0000
col68 : 4.0000
col69 : 1.0000
col70 : 0.0000
col71 : 5.0000
col72 : 3.0000
col73 : 0.0000
col74 : 0.0000
col75 : 0.0000
col76 : 1.0000
col77 : 0.0000
col78 : 0.0000
col79 : 0.0000
col80 : 0.0000
col81 : 0.0000
col82 : 0.0000
col83 : 0.0000
col84 : 1.0000
col85 : 0.0000
col86 : 0.0000
col87 : 5.0000
col88 : 60.0000
col89 : 0.0000
col90 : 0.0000
col91 : 0.0000
col92 : 0.0000
col93 : 0.0000
col94 : 0.0000
col95 : 0.0000
col96 : 3.0000
col97 : 0.0000
col98 : 0.0000
col99 : 3.0000
col100 : 0.0000
col101 : 0.0000
col102 : 1.0000
col103 : 1.0000
col104 : 4.0000
col105 : 4.0000
col106 : 3.0000
col107 : 1.0000
col108 : 0.0000
col109 : 0.0000
col110 : 1.0000
col111 : 0.0000
col112 : 0.0000
col113 : 0.0000
col114 : 1.0000
col115 : 1.0000
col116 : 0.0000
col117 : 0.0000
col118 : 0.0000
col119 : 2.0000
col120 : 0.0000
col121 : 0.0000
col122 : 0.0000
col123 : 0.0000
col124 : 2.0000
col125 : 0.0000
col126 : 0.0000
col127 : 0.0000
col128 : 0.0000
col129 : 0.0000
col130 : 2.0000
col131 : 0.0000
col132 : 0.0000
col133 : 0.0000
col134 : 0.0000
col135 : 0.0000
col136 : 0.0000
col137 : 0.0000
col138 : 1.0000
col139 : 0.0000
col140 : 1.0000
col141 : 0.0000
col142 : 0.0000
col143 : 1.0000
col144 : 1.0000
col145 : 0.0000
col146 : 0.0000
col147 : 0.0000
col148 : 4.0000
col149 : 0.0000
col150 : 0.0000
col151 : 0.0000
col152 : 0.0000
col153 : 0.0000
col154 : 3.0000
col155 : 0.0000
col156 : 0.0000
col157 : 0.0000
col158 : 2.0000
col159 : 0.0000
col160 : 0.0000
col161 : 0.0000
col162 : 1.0000
col163 : 0.0000
col164 : 1.0000
col165 : 0.0000
col166 : 0.0000
col167 : 2.0000
col168 : 1.0000
col169 : 0.0000
col170 : 0.0000
col171 : 1.0000
col172 : 0.0000
col173 : 0.0000
col174 : 0.0000
col175 : 0.0000
col176 : 2.0000
col177 : 0.0000
col178 : 0.0000
col179 : 1.0000
col180 : 0.0000
col181 : 0.0000
col182 : 5.0000
col183 : 0.0000
col184 : 0.0000
col185 : 2.0000
col186 : 0.0000
col187 : 0.0000
col188 : 0.0000
col189 : 0.0000
col190 : 1.0000
col191 : 0.0000
col192 : 0.0000
col193 : 1.0000
col194 : 0.0000
col195 : 3.0000
col196 : 0.0000
col197 : 0.0000
col198 : 1.0000
col199 : 0.0000
col200 : 0.0000
col201 : 0.0000
col202 : 0.0000
col203 : 1.0000
col204 : 2.0000
col205 : 0.0000
col206 : 0.0000
col207 : 0.0000
col208 : 0.0000
col209 : 1.0000
col210 : 2.0000
col211 : 1.0000
col212 : 3.0000
col213 : 1.0000
col214 : 0.0000
col215 : 0.0000
col216 : 0.0000
col217 : 0.0000
col218 : 1.0000
col219 : 3.0000
col220 : 0.0000
col221 : 1.0000
col222 : 1.0000
col223 : 0.0000
col224 : 0.0000
col225 : 1.0000
col226 : 2.0000
col227 : 1.0000
col228 : 0.0000
col229 : 0.0000
col230 : 0.0000
col231 : 0.0000
col232 : 5.0000
col233 : 0.0000
col234 : 0.0000
col235 : 0.0000
col236 : 0.0000
col237 : 1.0000
col238 : 1.0000
col239 : 0.0000
col240 : 1.0000
col241 : 0.0000
col242 : 0.0000
col243 : 2.0000
col244 : 6.0000
col245 : 1.0000
col246 : 0.0000
col247 : 0.0000
col248 : 1.0000
col249 : 0.0000
col250 : 1.0000
col251 : 0.0000
col252 : 0.0000
col253 : 2.0000
col254 : 0.0000
col255 : 10.0000
col256 : 2.0000
col257 : 3.0000
col258 : 3.0000
col259 : 1.0000
col260 : 1.0000
col261 : 0.0000
col262 : 0.0000
col263 : 0.0000
col264 : 1.0000
col265 : 0.0000
col266 : 3.0000
col267 : 0.0000
col268 : 4.0000
col269 : 1.0000
col270 : 4.0000
col271 : 0.0000
col272 : 0.0000
col273 : 1.0000
col274 : 0.0000
col275 : 0.0000
col276 : 2.0000
col277 : 0.0000
col278 : 0.0000
col279 : 0.0000
col280 : 6.0000
col281 : 0.0000
col282 : 1.0000
col283 : 0.0000
col284 : 0.0000
col285 : 0.0000
col286 : 3.0000
col287 : 0.0000
col288 : 0.0000
col289 : 0.0000
col290 : 0.0000
col291 : 0.0000
col292 : 0.0000
col293 : 1.0000
col294 : 0.0000
col295 : 1.0000
col296 : 1.0000
col297 : 4.0000
col298 : 0.0000
col299 : 0.0000
col300 : 0.0000
col301 : 0.0000
col302 : 0.0000
col303 : 0.0000
col304 : 0.0000
col305 : 1.0000
col306 : 7.0000
col307 : 2.0000
col308 : 1.0000
col309 : 2.0000
col310 : 0.0000
col311 : 0.0000
col312 : 2.0000
col313 : 0.0000
col314 : 0.0000
col315 : 0.0000
col316 : 0.0000
col317 : 1.0000
col318 : 0.0000
col319 : 0.0000
col320 : 0.0000
col321 : 0.0000
col322 : 0.0000
col323 : 1.0000
col324 : 4.0000
col325 : 2.0000
col326 : 3.0000
col327 : 0.0000
col328 : 0.0000
col329 : 1.0000
col330 : 0.0000
col331 : 0.0000
col332 : 0.0000
col333 : 0.0000
col334 : 0.0000
col335 : 3.0000
col336 : 0.0000
col337 : 0.0000
col338 : 0.0000
col339 : 0.0000
col340 : 1.0000
col341 : 0.0000
col342 : 0.0000
col343 : 0.0000
col344 : 0.0000
col345 : 0.0000
col346 : 2.0000
col347 : 0.0000
col348 : 0.0000
col349 : 3.0000
col350 : 0.0000
col351 : 2.0000
col352 : 5.0000
col353 : 0.0000
col354 : 4.0000
col355 : 3.0000
col356 : 1.0000
col357 : 0.0000
col358 : 0.0000
col359 : 4.0000
col360 : 3.0000
col361 : 0.0000
col362 : 0.0000
col363 : 0.0000
col364 : 0.0000
col365 : 0.0000
col366 : 0.0000
col367 : 0.0000
col368 : 0.0000
col369 : 1.0000
col370 : 0.0000
col371 : 0.0000
col372 : 0.0000
col373 : 0.0000
col374 : 7.0000
col375 : 0.0000
col376 : 0.0000
col377 : 0.0000
col378 : 0.0000
col379 : 0.0000
col380 : 0.0000
col381 : 4.0000
col382 : 6.0000
col383 : 0.0000
col384 : 0.0000
col385 : 0.0000
col386 : 1.0000
col387 : 0.0000
col388 : 0.0000
col389 : 0.0000
col390 : 0.0000
col391 : 0.0000
col392 : 0.0000
col393 : 1.0000
col394 : 4.0000
col395 : 0.0000
col396 : 0.0000
col397 : 0.0000
col398 : 3.0000
col399 : 0.0000
col400 : 0.0000
col401 : 0.0000
col402 : 0.0000
col403 : 0.0000
col404 : 0.0000
col405 : 0.0000
col406 : 0.0000
col407 : 0.0000
col408 : 0.0000
col409 : 3.0000
col410 : 0.0000
col411 : 0.0000
col412 : 0.0000
col413 : 2.0000
col414 : 0.0000
col415 : 0.0000
col416 : 0.0000
col417 : 3.0000
col418 : 0.0000
col419 : 6.0000
col420 : 1.0000
col421 : 0.0000
col422 : 1.0000
col423 : 0.0000
col424 : 0.0000
col425 : 1.0000
col426 : 0.0000
col427 : 0.0000
col428 : 4.0000
col429 : 0.0000
col430 : 0.0000
col431 : 2.0000
col432 : 5.0000
col433 : 0.0000
col434 : 0.0000
col435 : 0.0000
col436 : 4.0000
col437 : 0.0000
col438 : 0.0000
col439 : 0.0000
col440 : 0.0000
col441 : 0.0000
col442 : 0.0000
col443 : 1.0000
col444 : 0.0000
col445 : 0.0000
col446 : 0.0000
col447 : 0.0000
col448 : 1.0000
col449 : 0.0000
col450 : 0.0000
col451 : 0.0000
col452 : 1.0000
col453 : 1.0000
col454 : 2.0000
col455 : 0.0000
col456 : 3.0000
col457 : 0.0000
col458 : 0.0000
col459 : 2.0000
col460 : 3.0000
col461 : 0.0000
col462 : 8.0000
col463 : 0.0000
col464 : 0.0000
col465 : 0.0000
col466 : 2.0000
col467 : 0.0000
col468 : 2.0000
col469 : 0.0000
col470 : 0.0000
col471 : 0.0000
col472 : 1.0000
col473 : 0.0000
col474 : 0.0000
col475 : 3.0000
col476 : 1.0000
col477 : 0.0000
col478 : 2.0000
col479 : 0.0000
col480 : 0.0000
col481 : 1.0000
col482 : 3.0000
col483 : 0.0000
col484 : 3.0000
col485 : 0.0000
col486 : 0.0000
col487 : 7.0000
col488 : 1.0000
col489 : 0.0000
col490 : 0.0000
col491 : 0.0000
col492 : 0.0000
col493 : 0.0000
col494 : 0.0000
col495 : 1.0000
col496 : 2.0000
col497 : 0.0000
col498 : 0.0000
col499 : 0.0000
col500 : 0.0000
col501 : 0.0000
col502 : 0.0000
col503 : 1.0000
col504 : 0.0000
col505 : 0.0000
col506 : 0.0000
col507 : 0.0000
col508 : 0.0000
col509 : 0.0000
col510 : 0.0000
col511 : 0.0000
col512 : 0.0000
col513 : 0.0000
col514 : 0.0000
col515 : 0.0000
col516 : 1.0000
col517 : 0.0000
col518 : 0.0000
col519 : 0.0000
col520 : 0.0000
col521 : 0.0000
col522 : 0.0000
col523 : 1.0000
col524 : 2.0000
col525 : 2.0000
col526 : 0.0000
col527 : 4.0000
col528 : 0.0000
col529 : 1.0000
col530 : 1.0000
col531 : 0.0000
col532 : 1.0000
col533 : 1.0000
col534 : 0.0000
col535 : 4.0000
col536 : 0.0000
col537 : 0.0000
col538 : 0.0000
col539 : 0.0000
col540 : 0.0000
col541 : 0.0000
col542 : 0.0000
col543 : 0.0000
col544 : 2.0000
col545 : 0.0000
col546 : 0.0000
col547 : 0.0000
col548 : 4.0000
col549 : 0.0000
col550 : 0.0000
col551 : 0.0000
col552 : 3.0000
col553 : 0.0000
col554 : 0.0000
col555 : 3.0000
col556 : 1.0000
col557 : 0.0000
col558 : 5.0000
col559 : 3.0000
col560 : 4.0000
col561 : 0.0000
col562 : 0.0000
col563 : 3.0000
col564 : 2.0000
col565 : 0.0000
col566 : 0.0000
col567 : 4.0000
col568 : 2.0000
col569 : 1.0000
col570 : 0.0000
col571 : 0.0000
col572 : 1.0000
col573 : 1.0000
col574 : 1.0000
col575 : 0.0000
col576 : 0.0000
col577 : 5.0000
col578 : 1.0000
col579 : 0.0000
col580 : 0.0000
col581 : 0.0000
col582 : 0.0000
col583 : 0.0000
col584 : 0.0000
col585 : 1.0000
col586 : 0.0000
col587 : 0.0000
col588 : 0.0000
col589 : 0.0000
col590 : 0.0000
col591 : 0.0000
col592 : 1.0000
col593 : 1.0000
col594 : 0.0000
col595 : 0.0000
col596 : 0.0000
col597 : 0.0000
col598 : 0.0000
col599 : 2.0000
col600 : 0.0000
col601 : 1.0000
col602 : 0.0000
col603 : 0.0000
col604 : 0.0000
col605 : 2.0000
col606 : 0.0000
col607 : 2.0000
col608 : 1.0000
col609 : 0.0000
col610 : 0.0000
col611 : 5.0000
col612 : 0.0000
col613 : 0.0000
col614 : 0.0000
col615 : 0.0000
col616 : 0.0000
col617 : 0.0000
col618 : 0.0000
col619 : 0.0000
col620 : 5.0000
col621 : 0.0000
col622 : 0.0000
col623 : 0.0000
col624 : 1.0000
col625 : 0.0000
col626 : 0.0000
col627 : 0.0000
col628 : 0.0000
col629 : 0.0000
col630 : 0.0000
col631 : 0.0000
col632 : 0.0000
col633 : 0.0000
col634 : 0.0000
col635 : 0.0000
col636 : 0.0000
col637 : 1.0000
col638 : 0.0000
col639 : 0.0000
col640 : 0.0000
col641 : 1.0000
col642 : 0.0000
col643 : 0.0000
col644 : 0.0000
col645 : 0.0000
col646 : 0.0000
col647 : 0.0000
col648 : 0.0000
col649 : 1.0000
col650 : 0.0000
col651 : 1.0000
col652 : 0.0000
col653 : 0.0000
col654 : 4.0000
col655 : 1.0000
col656 : 0.0000
col657 : 2.0000
col658 : 0.0000
col659 : 1.0000
col660 : 0.0000
col661 : 3.0000
col662 : 0.0000
col663 : 1.0000
col664 : 0.0000
col665 : 0.0000
col666 : 0.0000
col667 : 0.0000
col668 : 0.0000
col669 : 0.0000
col670 : 0.0000
col671 : 3.0000
col672 : 0.0000
col673 : 0.0000
col674 : 0.0000
col675 : 0.0000
col676 : 0.0000
col677 : 1.0000
col678 : 8.0000
col679 : 0.0000
col680 : 1.0000
col681 : 8.0000
col682 : 0.0000
col683 : 0.0000
col684 : 0.0000
col685 : 0.0000
col686 : 0.0000
col687 : 1.0000
col688 : 1.0000
col689 : 3.0000
col690 : 0.0000
col691 : 3.0000
col692 : 0.0000
col693 : 0.0000
col694 : 0.0000
col695 : 2.0000
col696 : 0.0000
col697 : 0.0000
col698 : 0.0000
col699 : 1.0000
col700 : 1.0000
col701 : 0.0000
col702 : 0.0000
col703 : 1.0000
col704 : 0.0000
col705 : 0.0000
col706 : 0.0000
col707 : 0.0000
col708 : 1.0000
col709 : 2.0000
col710 : 1.0000
col711 : 0.0000
col712 : 0.0000
col713 : 1.0000
col714 : 3.0000
col715 : 0.0000
col716 : 2.0000
col717 : 0.0000
col718 : 0.0000
col719 : 0.0000
col720 : 0.0000
col721 : 1.0000
col722 : 0.0000
col723 : 2.0000
col724 : 0.0000
col725 : 0.0000
col726 : 1.0000
col727 : 1.0000
col728 : 5.0000
col729 : 0.0000
col730 : 3.0000
col731 : 0.0000
col732 : 0.0000
col733 : 0.0000
col734 : 0.0000
col735 : 0.0000
col736 : 0.0000
col737 : 0.0000
col738 : 0.0000
col739 : 0.0000
col740 : 0.0000
col741 : 0.0000
col742 : 0.0000
col743 : 4.0000
col744 : 1.0000
col745 : 4.0000
col746 : 0.0000
col747 : 1.0000
col748 : 2.0000
col749 : 0.0000
col750 : 0.0000
col751 : 1.0000
col752 : 0.0000
col753 : 0.0000
col754 : 0.0000
col755 : 0.0000
col756 : 0.0000
col757 : 0.0000
col758 : 0.0000
col759 : 2.0000
col760 : 0.0000
col761 : 0.0000
col762 : 1.0000
col763 : 0.0000
col764 : 0.0000
col765 : 3.0000
col766 : 6.0000
col767 : 3.0000
col768 : 0.0000
col769 : 0.0000
col770 : 0.0000
col771 : 0.0000
col772 : 0.0000
col773 : 1.0000
col774 : 0.0000
col775 : 3.0000
col776 : 0.0000
col777 : 5.0000
col778 : 2.0000
col779 : 1.0000
col780 : 0.0000
col781 : 0.0000
col782 : 0.0000
col783 : 0.0000
col784 : 0.0000
col785 : 0.0000
col786 : 0.0000
col787 : 1.0000
col788 : 4.0000
col789 : 0.0000
col790 : 0.0000
col791 : 0.0000
col792 : 11.0000
col793 : 0.0000
col794 : 0.0000
col795 : 0.0000
col796 : 0.0000
col797 : 0.0000
col798 : 0.0000
col799 : 0.0000
col800 : 0.0000
col801 : 0.0000
col802 : 0.0000
col803 : 0.0000
col804 : 0.0000
col805 : 0.0000
col806 : 3.0000
col807 : 0.0000
col808 : 5.0000
col809 : 0.0000
col810 : 0.0000
col811 : 0.0000
col812 : 0.0000
col813 : 0.0000
col814 : 0.0000
col815 : 0.0000
col816 : 3.0000
col817 : 1.0000
col818 : 0.0000
col819 : 3.0000
col820 : 4.0000
col821 : 1.0000
col822 : 0.0000
col823 : 0.0000
col824 : 2.0000
col825 : 2.0000
col826 : 2.0000
col827 : 0.0000
col828 : 2.0000
col829 : 6.0000
col830 : 0.0000
col831 : 3.0000
col832 : 1.0000
col833 : 2.0000
col834 : 0.0000
col835 : 0.0000
col836 : 0.0000
col837 : 0.0000
col838 : 0.0000
col839 : 0.0000
col840 : 0.0000
col841 : 1.0000
col842 : 3.0000
col843 : 0.0000
col844 : 0.0000
col845 : 0.0000
col846 : 0.0000
col847 : 3.0000
col848 : 0.0000
col849 : 0.0000
col850 : 1.0000
col851 : 0.0000
col852 : 0.0000
col853 : 0.0000
col854 : 0.0000
col855 : 0.0000
col856 : 1.0000
col857 : 2.0000
col858 : 0.0000
col859 : 3.0000
col860 : 0.0000
col861 : 2.0000
col862 : 2.0000
col863 : 0.0000
col864 : 2.0000
col865 : 0.0000
col866 : 4.0000
col867 : 0.0000
col868 : 0.0000
col869 : 0.0000
col870 : 1.0000
col871 : 1.0000
col872 : 0.0000
col873 : 0.0000
col874 : 0.0000
col875 : 0.0000
col876 : 2.0000
col877 : 3.0000
col878 : 0.0000
col879 : 0.0000
col880 : 0.0000
col881 : 0.0000
col882 : 2.0000
col883 : 0.0000
col884 : 0.0000
col885 : 0.0000
col886 : 0.0000
col887 : 0.0000
col888 : 1.0000
col889 : 0.0000
col890 : 5.0000
col891 : 3.0000
col892 : 0.0000
col893 : 0.0000
col894 : 0.0000
col895 : 0.0000
col896 : 2.0000
col897 : 1.0000
col898 : 1.0000
col899 : 3.0000
col900 : 2.0000
col901 : 0.0000
col902 : 2.0000
col903 : 0.0000
col904 : 4.0000
col905 : 0.0000
col906 : 0.0000
col907 : 0.0000
col908 : 1.0000
col909 : 0.0000
col910 : 5.0000
col911 : 0.0000
col912 : 13.0000
col913 : 4.0000
col914 : 0.0000
col915 : 0.0000
col916 : 2.0000
col917 : 0.0000
col918 : 0.0000
col919 : 0.0000
col920 : 4.0000
col921 : 0.0000
col922 : 0.0000
col923 : 3.0000
col924 : 0.0000
col925 : 1.0000
col926 : 2.0000
col927 : 0.0000
col928 : 0.0000
col929 : 5.0000
col930 : 1.0000
col931 : 0.0000
col932 : 0.0000
col933 : 0.0000
col934 : 3.0000
col935 : 0.0000
col936 : 0.0000
col937 : 4.0000
col938 : 0.0000
col939 : 0.0000
col940 : 0.0000
col941 : 1.0000
col942 : 0.0000
col943 : 0.0000
col944 : 1.0000
col945 : 3.0000
col946 : 0.0000
col947 : 3.0000
col948 : 0.0000
col949 : 0.0000
col950 : 0.0000
col951 : 4.0000
col952 : 0.0000
col953 : 4.0000
col954 : 0.0000
col955 : 0.0000
col956 : 0.0000
col957 : 0.0000
col958 : 0.0000
col959 : 0.0000
col960 : 0.0000
col961 : 1.0000
col962 : 0.0000
col963 : 1.0000
col964 : 1.0000
col965 : 1.0000
col966 : 2.0000
col967 : 0.0000
col968 : 0.0000
col969 : 0.0000
col970 : 1.0000
col971 : 0.0000
col972 : 4.0000
col973 : 0.0000
col974 : 0.0000
col975 : 0.0000
col976 : 0.0000
col977 : 0.0000
col978 : 0.0000
col979 : 0.0000
col980 : 0.0000
col981 : 0.0000
col982 : 0.0000
col983 : 4.0000
col984 : 0.0000
col985 : 1.0000
col986 : 0.0000
col987 : 0.0000
col988 : 0.0000
col989 : 0.0000
col990 : 0.0000
col991 : 4.0000
col992 : 0.0000
col993 : 0.0000
col994 : 3.0000
col995 : 0.0000
col996 : 2.0000
col997 : 0.0000
col998 : 0.0000
col999 : 0.0000
col1000 : 0.0000
col1001 : 0.0000
col1002 : 0.0000
col1003 : 2.0000
col1004 : 0.0000
col1005 : 0.0000
col1006 : 0.0000
col1007 : 0.0000
col1008 : 4.0000
col1009 : 0.0000
col1010 : 1.0000
col1011 : 9.0000
col1012 : 0.0000
col1013 : 0.0000
col1014 : 0.0000
col1015 : 0.0000
col1016 : 4.0000
col1017 : 0.0000
col1018 : 0.0000
col1019 : 0.0000
col1020 : 0.0000
col1021 : 2.0000
col1022 : 0.0000
col1023 : 3.0000
col1024 : 0.0000
col1025 : 0.0000
col1026 : 1.0000
col1027 : 0.0000
col1028 : 0.0000
col1029 : 0.0000
col1030 : 0.0000
col1031 : 0.0000
col1032 : 3.0000
col1033 : 0.0000
col1034 : 0.0000
col1035 : 0.0000
col1036 : 0.0000
col1037 : 0.0000
col1038 : 1.0000
col1039 : 0.0000
col1040 : 0.0000
col1041 : 0.0000
col1042 : 0.0000
col1043 : 0.0000
col1044 : 0.0000
col1045 : 1.0000
col1046 : 1.0000
col1047 : 3.0000
col1048 : 0.0000
col1049 : 0.0000
col1050 : 4.0000
col1051 : 0.0000
col1052 : 0.0000
col1053 : 2.0000
col1054 : 0.0000
col1055 : 0.0000
col1056 : 0.0000
col1057 : 0.0000
col1058 : 0.0000
col1059 : 0.0000
col1060 : 0.0000
col1061 : 4.0000
col1062 : 5.0000
col1063 : 2.0000
col1064 : 6.0000
col1065 : 0.0000
col1066 : 0.0000
col1067 : 7.0000
col1068 : 0.0000
col1069 : 0.0000
col1070 : 2.0000
col1071 : 2.0000
col1072 : 0.0000
col1073 : 0.0000
col1074 : 0.0000
col1075 : 0.0000
col1076 : 0.0000
col1077 : 0.0000
col1078 : 0.0000
col1079 : 0.0000
col1080 : 5.0000
col1081 : 0.0000
col1082 : 0.0000
col1083 : 0.0000
col1084 : 0.0000
col1085 : 1.0000
col1086 : 0.0000
col1087 : 0.0000
col1088 : 0.0000
col1089 : 0.0000
col1090 : 0.0000
col1091 : 2.0000
col1092 : 0.0000
col1093 : 0.0000
col1094 : 1.0000
col1095 : 0.0000
col1096 : 0.0000
col1097 : 1.0000
col1098 : 1.0000
col1099 : 0.0000
col1100 : 0.0000
col1101 : 2.0000
col1102 : 0.0000
col1103 : 1.0000
col1104 : 0.0000
col1105 : 0.0000
col1106 : 0.0000
col1107 : 0.0000
col1108 : 0.0000
col1109 : 0.0000
col1110 : 0.0000
col1111 : 0.0000
col1112 : 0.0000
col1113 : 7.0000
col1114 : 0.0000
col1115 : 1.0000
col1116 : 1.0000
col1117 : 3.0000
col1118 : 0.0000
col1119 : 0.0000
col1120 : 0.0000
col1121 : 0.0000
col1122 : 1.0000
col1123 : 1.0000
col1124 : 0.0000
col1125 : 0.0000
col1126 : 0.0000
col1127 : 0.0000
col1128 : 1.0000
col1129 : 1.0000
col1130 : 0.0000
col1131 : 0.0000
col1132 : 2.0000
col1133 : 0.0000
col1134 : 0.0000
col1135 : 1.0000
col1136 : 0.0000
col1137 : 0.0000
col1138 : 2.0000
col1139 : 4.0000
col1140 : 0.0000
col1141 : 0.0000
col1142 : 0.0000
col1143 : 0.0000
col1144 : 0.0000
col1145 : 0.0000
col1146 : 3.0000
col1147 : 0.0000
col1148 : 0.0000
col1149 : 0.0000
col1150 : 1.0000
col1151 : 0.0000
col1152 : 0.0000
col1153 : 1.0000
col1154 : 1.0000
col1155 : 0.0000
col1156 : 0.0000
col1157 : 0.0000
col1158 : 5.0000
col1159 : 0.0000
col1160 : 1.0000
col1161 : 10.0000
col1162 : 0.0000
col1163 : 0.0000
col1164 : 0.0000
col1165 : 4.0000
col1166 : 0.0000
col1167 : 0.0000
col1168 : 1.0000
col1169 : 0.0000
col1170 : 1.0000
col1171 : 0.0000
col1172 : 0.0000
col1173 : 0.0000
col1174 : 0.0000
col1175 : 0.0000
col1176 : 5.0000
col1177 : 0.0000
col1178 : 0.0000
col1179 : 3.0000
col1180 : 0.0000
col1181 : 6.0000
col1182 : 0.0000
col1183 : 9.0000
col1184 : 2.0000
col1185 : 0.0000
col1186 : 2.0000
col1187 : 0.0000
col1188 : 0.0000
col1189 : 0.0000
col1190 : 3.0000
col1191 : 3.0000
col1192 : 0.0000
col1193 : 8.0000
col1194 : 0.0000
col1195 : 0.0000
col1196 : 2.0000
col1197 : 0.0000
col1198 : 7.0000
col1199 : 0.0000
col1200 : 5.0000
col1201 : 4.0000
col1202 : 0.0000
col1203 : 0.0000
col1204 : 0.0000
col1205 : 0.0000
col1206 : 0.0000
col1207 : 1.0000
col1208 : 1.0000
col1209 : 2.0000
col1210 : 2.0000
col1211 : 8.0000
col1212 : 4.0000
col1213 : 0.0000
col1214 : 0.0000
col1215 : 0.0000
col1216 : 0.0000
col1217 : 0.0000
col1218 : 5.0000
col1219 : 1.0000
col1220 : 1.0000
col1221 : 0.0000
col1222 : 9.0000
col1223 : 8.0000
col1224 : 1.0000
col1225 : 0.0000
col1226 : 0.0000
col1227 : 0.0000
col1228 : 1.0000
col1229 : 0.0000
col1230 : 3.0000
col1231 : 2.0000
col1232 : 1.0000
col1233 : 0.0000
col1234 : 4.0000
col1235 : 1.0000
col1236 : 0.0000
col1237 : 0.0000
col1238 : 0.0000
col1239 : 0.0000
col1240 : 0.0000
col1241 : 0.0000
col1242 : 1.0000
col1243 : 1.0000
col1244 : 0.0000
col1245 : 0.0000
col1246 : 0.0000
col1247 : 0.0000
col1248 : 0.0000
col1249 : 0.0000
col1250 : 0.0000
col1251 : 0.0000
col1252 : 4.0000
col1253 : 1.0000
col1254 : 0.0000
col1255 : 0.0000
col1256 : 0.0000
col1257 : 0.0000
col1258 : 2.0000
col1259 : 0.0000
col1260 : 0.0000
col1261 : 1.0000
col1262 : 0.0000
col1263 : 5.0000
col1264 : 0.0000
col1265 : 0.0000
col1266 : 0.0000
col1267 : 3.0000
col1268 : 0.0000
col1269 : 0.0000
col1270 : 0.0000
col1271 : 0.0000
col1272 : 0.0000
col1273 : 1.0000
col1274 : 0.0000
col1275 : 0.0000
col1276 : 0.0000
col1277 : 1.0000
col1278 : 0.0000
col1279 : 1.0000
col1280 : 0.0000
col1281 : 0.0000
col1282 : 0.0000
col1283 : 0.0000
col1284 : 2.0000
col1285 : 1.0000
col1286 : 0.0000
col1287 : 0.0000
col1288 : 0.0000
col1289 : 0.0000
col1290 : 0.0000
col1291 : 0.0000
col1292 : 3.0000
col1293 : 0.0000
col1294 : 0.0000
col1295 : 3.0000
col1296 : 0.0000
col1297 : 2.0000
col1298 : 0.0000
col1299 : 0.0000
col1300 : 5.0000
col1301 : 0.0000
col1302 : 0.0000
col1303 : 0.0000
col1304 : 0.0000
col1305 : 1.0000
col1306 : 3.0000
col1307 : 0.0000
col1308 : 1.0000
col1309 : 0.0000
col1310 : 0.0000
col1311 : 0.0000
col1312 : 0.0000
col1313 : 2.0000
col1314 : 0.0000
col1315 : 0.0000
col1316 : 4.0000
col1317 : 0.0000
col1318 : 2.0000
col1319 : 0.0000
col1320 : 0.0000
col1321 : 1.0000
col1322 : 2.0000
col1323 : 1.0000
col1324 : 1.0000
col1325 : 0.0000
col1326 : 7.0000
col1327 : 1.0000
col1328 : 0.0000
col1329 : 0.0000
col1330 : 1.0000
col1331 : 0.0000
col1332 : 0.0000
col1333 : 0.0000
col1334 : 0.0000
col1335 : 5.0000
col1336 : 5.0000
col1337 : 11.0000
col1338 : 0.0000
col1339 : 0.0000
col1340 : 0.0000
col1341 : 1.0000
col1342 : 0.0000
col1343 : 0.0000
col1344 : 0.0000
col1345 : 0.0000
col1346 : 0.0000
col1347 : 0.0000
col1348 : 3.0000
col1349 : 0.0000
col1350 : 0.0000
col1351 : 0.0000
col1352 : 0.0000
col1353 : 2.0000
col1354 : 0.0000
col1355 : 0.0000
col1356 : 0.0000
col1357 : 1.0000
col1358 : 3.0000
col1359 : 0.0000
col1360 : 0.0000
col1361 : 3.0000
col1362 : 2.0000
col1363 : 1.0000
col1364 : 0.0000
col1365 : 3.0000
col1366 : 1.0000
col1367 : 0.0000
col1368 : 0.0000
col1369 : 2.0000
col1370 : 0.0000
col1371 : 1.0000
col1372 : 0.0000
col1373 : 2.0000
col1374 : 0.0000
col1375 : 2.0000
col1376 : 0.0000
col1377 : 0.0000
col1378 : 0.0000
col1379 : 0.0000
col1380 : 2.0000
col1381 : 0.0000
col1382 : 2.0000
col1383 : 0.0000
col1384 : 0.0000
col1385 : 1.0000
col1386 : 0.0000
col1387 : 0.0000
col1388 : 1.0000
col1389 : 0.0000
col1390 : 0.0000
col1391 : 1.0000
col1392 : 1.0000
col1393 : 0.0000
col1394 : 0.0000
col1395 : 0.0000
col1396 : 0.0000
col1397 : 0.0000
col1398 : 0.0000
col1399 : 3.0000
col1400 : 1.0000
col1401 : 0.0000
col1402 : 1.0000
col1403 : 0.0000
col1404 : 0.0000
col1405 : 0.0000
col1406 : 3.0000
col1407 : 0.0000
col1408 : 0.0000
col1409 : 0.0000
col1410 : 0.0000
col1411 : 1.0000
col1412 : 2.0000
col1413 : 1.0000
col1414 : 1.0000
col1415 : 1.0000
col1416 : 3.0000
col1417 : 0.0000
col1418 : 0.0000
col1419 : 0.0000
col1420 : 0.0000
col1421 : 1.0000
col1422 : 0.0000
col1423 : 0.0000
col1424 : 0.0000
col1425 : 0.0000
col1426 : 0.0000
col1427 : 0.0000
col1428 : 0.0000
col1429 : 0.0000
col1430 : 0.0000
col1431 : 0.0000
col1432 : 0.0000
col1433 : 0.0000
col1434 : 0.0000
col1435 : 1.0000
col1436 : 2.0000
col1437 : 0.0000
col1438 : 0.0000
col1439 : 0.0000
col1440 : 1.0000
col1441 : 0.0000
col1442 : 0.0000
col1443 : 0.0000
col1444 : 2.0000
col1445 : 0.0000
col1446 : 0.0000
col1447 : 0.0000
col1448 : 0.0000
col1449 : 0.0000
col1450 : 0.0000
col1451 : 2.0000
col1452 : 0.0000
col1453 : 0.0000
col1454 : 0.0000
col1455 : 5.0000
col1456 : 0.0000
col1457 : 0.0000
col1458 : 0.0000
col1459 : 1.0000
col1460 : 0.0000
col1461 : 4.0000
col1462 : 1.0000
col1463 : 0.0000
col1464 : 0.0000
col1465 : 0.0000
col1466 : 0.0000
col1467 : 2.0000
col1468 : 1.0000
col1469 : 2.0000
col1470 : 0.0000
col1471 : 0.0000
col1472 : 0.0000
col1473 : 0.0000
col1474 : 4.0000
col1475 : 0.0000
col1476 : 0.0000
col1477 : 0.0000
col1478 : 0.0000
col1479 : 0.0000
col1480 : 0.0000
col1481 : 0.0000
col1482 : 0.0000
col1483 : 0.0000
col1484 : 0.0000
col1485 : 2.0000
col1486 : 0.0000
col1487 : 4.0000
col1488 : 0.0000
col1489 : 0.0000
col1490 : 3.0000
col1491 : 0.0000
col1492 : 0.0000
col1493 : 2.0000
col1494 : 0.0000
col1495 : 0.0000
col1496 : 3.0000
col1497 : 0.0000
col1498 : 0.0000
col1499 : 0.0000
col1500 : 0.0000
col1501 : 0.0000
col1502 : 0.0000
col1503 : 0.0000
col1504 : 0.0000
col1505 : 4.0000
col1506 : 1.0000
col1507 : 0.0000
col1508 : 0.0000
col1509 : 0.0000
col1510 : 0.0000
col1511 : 1.0000
col1512 : 0.0000
col1513 : 0.0000
col1514 : 0.0000
col1515 : 0.0000
col1516 : 0.0000
col1517 : 0.0000
col1518 : 0.0000
col1519 : 0.0000
col1520 : 0.0000
col1521 : 2.0000
col1522 : 0.0000
col1523 : 0.0000
col1524 : 0.0000
col1525 : 0.0000
col1526 : 1.0000
col1527 : 0.0000
col1528 : 0.0000
col1529 : 0.0000
col1530 : 0.0000
col1531 : 2.0000
col1532 : 3.0000
col1533 : 0.0000
col1534 : 1.0000
col1535 : 0.0000
col1536 : 0.0000
col1537 : 5.0000
col1538 : 1.0000
col1539 : 0.0000
col1540 : 4.0000
col1541 : 0.0000
col1542 : 0.0000
col1543 : 0.0000
col1544 : 0.0000
col1545 : 0.0000
col1546 : 0.0000
col1547 : 1.0000
col1548 : 0.0000
col1549 : 0.0000
col1550 : 0.0000
col1551 : 1.0000
col1552 : 1.0000
col1553 : 1.0000
col1554 : 0.0000
col1555 : 1.0000
col1556 : 0.0000
col1557 : 0.0000
col1558 : 2.0000
col1559 : 0.0000
col1560 : 0.0000
col1561 : 2.0000
col1562 : 0.0000
col1563 : 0.0000
col1564 : 0.0000
col1565 : 2.0000
col1566 : 1.0000
col1567 : 0.0000
col1568 : 0.0000
col1569 : 0.0000
col1570 : 0.0000
col1571 : 0.0000
col1572 : 2.0000
col1573 : 0.0000
col1574 : 0.0000
col1575 : 0.0000
col1576 : 1.0000
col1577 : 0.0000
col1578 : 0.0000
col1579 : 0.0000
col1580 : 0.0000
col1581 : 0.0000
col1582 : 0.0000
col1583 : 0.0000
col1584 : 1.0000
col1585 : 0.0000
col1586 : 0.0000
col1587 : 0.0000
col1588 : 0.0000
col1589 : 0.0000
col1590 : 0.0000
col1591 : 1.0000
col1592 : 0.0000
col1593 : 0.0000
col1594 : 0.0000
col1595 : 0.0000
col1596 : 0.0000
col1597 : 1.0000
col1598 : 0.0000
col1599 : 0.0000
col1600 : 0.0000
col1601 : 0.0000
col1602 : 2.0000
col1603 : 2.0000
col1604 : 2.0000
col1605 : 0.0000
col1606 : 1.0000
col1607 : 0.0000
col1608 : 0.0000
col1609 : 0.0000
col1610 : 0.0000
col1611 : 0.0000
col1612 : 0.0000
col1613 : 0.0000
col1614 : 0.0000
col1615 : 3.0000
col1616 : 1.0000
col1617 : 0.0000
col1618 : 0.0000
col1619 : 1.0000
col1620 : 0.0000
col1621 : 0.0000
col1622 : 2.0000
col1623 : 0.0000
col1624 : 0.0000
col1625 : 0.0000
col1626 : 0.0000
col1627 : 0.0000
col1628 : 0.0000
col1629 : 0.0000
col1630 : 3.0000
col1631 : 0.0000
col1632 : 1.0000
col1633 : 0.0000
col1634 : 0.0000
col1635 : 1.0000
col1636 : 0.0000
col1637 : 0.0000
col1638 : 0.0000
col1639 : 0.0000
col1640 : 0.0000
col1641 : 0.0000
col1642 : 0.0000
col1643 : 7.0000
col1644 : 0.0000
col1645 : 0.0000
col1646 : 0.0000
col1647 : 0.0000
col1648 : 0.0000
col1649 : 0.0000
col1650 : 0.0000
col1651 : 0.0000
col1652 : 7.0000
col1653 : 0.0000
col1654 : 0.0000
col1655 : 0.0000
col1656 : 0.0000
col1657 : 0.0000
col1658 : 2.0000
col1659 : 0.0000
col1660 : 0.0000
col1661 : 1.0000
col1662 : 0.0000
col1663 : 2.0000
col1664 : 1.0000
col1665 : 0.0000
col1666 : 0.0000
col1667 : 0.0000
col1668 : 0.0000
col1669 : 0.0000
col1670 : 0.0000
col1671 : 0.0000
col1672 : 0.0000
col1673 : 1.0000
col1674 : 5.0000
col1675 : 0.0000
col1676 : 4.0000
col1677 : 0.0000
col1678 : 0.0000
col1679 : 0.0000
col1680 : 6.0000
col1681 : 0.0000
col1682 : 0.0000
col1683 : 0.0000
col1684 : 0.0000
col1685 : 1.0000
col1686 : 0.0000
col1687 : 0.0000
col1688 : 3.0000
col1689 : 0.0000
col1690 : 2.0000
col1691 : 0.0000
col1692 : 0.0000
col1693 : 0.0000
col1694 : 0.0000
col1695 : 0.0000
col1696 : 0.0000
col1697 : 1.0000
col1698 : 9.0000
col1699 : 0.0000
col1700 : 0.0000
col1701 : 3.0000
col1702 : 0.0000
col1703 : 0.0000
col1704 : 9.0000
col1705 : 3.0000
col1706 : 0.0000
col1707 : 1.0000
col1708 : 0.0000
col1709 : 0.0000
col1710 : 0.0000
col1711 : 0.0000
col1712 : 0.0000
col1713 : 8.0000
col1714 : 0.0000
col1715 : 0.0000
col1716 : 0.0000
col1717 : 1.0000
col1718 : 0.0000
col1719 : 3.0000
col1720 : 0.0000
col1721 : 1.0000
col1722 : 0.0000
col1723 : 1.0000
col1724 : 0.0000
col1725 : 0.0000
col1726 : 0.0000
col1727 : 1.0000
col1728 : 1.0000
col1729 : 0.0000
col1730 : 0.0000
col1731 : 3.0000
col1732 : 0.0000
col1733 : 1.0000
col1734 : 2.0000
col1735 : 0.0000
col1736 : 0.0000
col1737 : 5.0000
col1738 : 1.0000
col1739 : 0.0000
col1740 : 0.0000
col1741 : 0.0000
col1742 : 3.0000
col1743 : 2.0000
col1744 : 0.0000
col1745 : 1.0000
col1746 : 0.0000
col1747 : 0.0000
col1748 : 0.0000
col1749 : 0.0000
col1750 : 6.0000
col1751 : 0.0000
col1752 : 0.0000
col1753 : 3.0000
col1754 : 0.0000
col1755 : 0.0000
col1756 : 0.0000
col1757 : 1.0000
col1758 : 2.0000
col1759 : 2.0000
col1760 : 0.0000
col1761 : 0.0000
col1762 : 0.0000
col1763 : 0.0000
col1764 : 0.0000
col1765 : 0.0000
col1766 : 0.0000
col1767 : 0.0000
col1768 : 0.0000
col1769 : 1.0000
col1770 : 0.0000
col1771 : 2.0000
col1772 : 0.0000
col1773 : 0.0000
col1774 : 0.0000
col1775 : 0.0000
col1776 : 0.0000
col1777 : 0.0000
col1778 : 1.0000
col1779 : 0.0000
col1780 : 0.0000
col1781 : 0.0000
col1782 : 0.0000
col1783 : 0.0000
col1784 : 0.0000
col1785 : 0.0000
col1786 : 1.0000
col1787 : 0.0000
col1788 : 0.0000
col1789 : 0.0000
col1790 : 0.0000
col1791 : 2.0000
col1792 : 1.0000
col1793 : 0.0000
col1794 : 0.0000
col1795 : 0.0000
col1796 : 5.0000
col1797 : 0.0000
col1798 : 2.0000
col1799 : 0.0000
col1800 : 0.0000
col1801 : 0.0000
col1802 : 0.0000
col1803 : 0.0000
col1804 : 0.0000
col1805 : 0.0000
col1806 : 0.0000
col1807 : 0.0000
col1808 : 1.0000
col1809 : 0.0000
col1810 : 0.0000
col1811 : 0.0000
col1812 : 0.0000
col1813 : 0.0000
col1814 : 0.0000
col1815 : 4.0000
col1816 : 0.0000
col1817 : 0.0000
col1818 : 0.0000
col1819 : 3.0000
col1820 : 0.0000
col1821 : 0.0000
col1822 : 4.0000
col1823 : 2.0000
col1824 : 0.0000
col1825 : 0.0000
col1826 : 0.0000
col1827 : 0.0000
col1828 : 0.0000
col1829 : 3.0000
col1830 : 0.0000
col1831 : 0.0000
col1832 : 0.0000
col1833 : 0.0000
col1834 : 0.0000
col1835 : 0.0000
col1836 : 1.0000
col1837 : 1.0000
col1838 : 0.0000
col1839 : 0.0000
col1840 : 3.0000
col1841 : 0.0000
col1842 : 0.0000
col1843 : 0.0000
col1844 : 1.0000
col1845 : 0.0000
col1846 : 2.0000
col1847 : 0.0000
col1848 : 1.0000
col1849 : 0.0000
col1850 : 0.0000
col1851 : 0.0000
col1852 : 0.0000
col1853 : 0.0000
col1854 : 0.0000
col1855 : 5.0000
col1856 : 2.0000
col1857 : 0.0000
col1858 : 1.0000
col1859 : 0.0000
col1860 : 0.0000
col1861 : 1.0000
col1862 : 0.0000
col1863 : 0.0000
col1864 : 0.0000
col1865 : 0.0000
col1866 : 0.0000
col1867 : 0.0000
col1868 : 0.0000
col1869 : 0.0000
col1870 : 0.0000
col1871 : 0.0000
col1872 : 0.0000
col1873 : 2.0000
col1874 : 0.0000
col1875 : 0.0000
col1876 : 0.0000
col1877 : 2.0000
col1878 : 1.0000
col1879 : 2.0000
col1880 : 2.0000
col1881 : 0.0000
col1882 : 1.0000
col1883 : 0.0000
col1884 : 0.0000
col1885 : 0.0000
col1886 : 0.0000
col1887 : 0.0000
col1888 : 0.0000
col1889 : 0.0000
col1890 : 0.0000
col1891 : 3.0000
col1892 : 0.0000
col1893 : 0.0000
col1894 : 0.0000
col1895 : 1.0000
col1896 : 0.0000
col1897 : 0.0000
col1898 : 0.0000
col1899 : 0.0000
col1900 : 0.0000
col1901 : 0.0000
col1902 : 2.0000
col1903 : 0.0000
col1904 : 7.0000
col1905 : 0.0000
col1906 : 1.0000
col1907 : 5.0000
col1908 : 0.0000
col1909 : 0.0000
col1910 : 0.0000
col1911 : 0.0000
col1912 : 1.0000
col1913 : 0.0000
col1914 : 0.0000
col1915 : 0.0000
col1916 : 0.0000
col1917 : 5.0000
col1918 : 0.0000
col1919 : 0.0000
col1920 : 0.0000
col1921 : 2.0000
col1922 : 4.0000
col1923 : 0.0000
col1924 : 0.0000
col1925 : 0.0000
col1926 : 0.0000
col1927 : 0.0000
col1928 : 0.0000
col1929 : 1.0000
col1930 : 0.0000
col1931 : 2.0000
col1932 : 0.0000
col1933 : 1.0000
col1934 : 0.0000
col1935 : 1.0000
col1936 : 0.0000
col1937 : 0.0000
col1938 : 3.0000
col1939 : 0.0000
col1940 : 3.0000
col1941 : 0.0000
col1942 : 0.0000
col1943 : 0.0000
col1944 : 0.0000
col1945 : 0.0000
col1946 : 0.0000
col1947 : 0.0000
col1948 : 3.0000
col1949 : 2.0000
col1950 : 0.0000
col1951 : 0.0000
col1952 : 0.0000
col1953 : 0.0000
col1954 : 0.0000
col1955 : 1.0000
col1956 : 2.0000
col1957 : 0.0000
col1958 : 4.0000
col1959 : 0.0000
col1960 : 0.0000
col1961 : 0.0000
col1962 : 2.0000
col1963 : 3.0000
col1964 : 0.0000
col1965 : 3.0000
col1966 : 0.0000
col1967 : 0.0000
col1968 : 1.0000
col1969 : 0.0000
col1970 : 0.0000
col1971 : 0.0000
col1972 : 3.0000
col1973 : 1.0000
col1974 : 0.0000
col1975 : 0.0000
col1976 : 0.0000
col1977 : 1.0000
col1978 : 0.0000
col1979 : 1.0000
col1980 : 0.0000
col1981 : 0.0000
col1982 : 0.0000
col1983 : 6.0000
col1984 : 0.0000
col1985 : 0.0000
col1986 : 3.0000
col1987 : 0.0000
col1988 : 0.0000
col1989 : 2.0000
col1990 : 0.0000
col1991 : 0.0000
col1992 : 0.0000
col1993 : 5.0000
col1994 : 0.0000
col1995 : 0.0000
col1996 : 0.0000
col1997 : 0.0000
col1998 : 0.0000
col1999 : 2.0000
col2000 : 1.0000
col2001 : 0.0000
col2002 : 0.0000
col2003 : 0.0000
col2004 : 0.0000
col2005 : 0.0000
col2006 : 8.0000
col2007 : 0.0000
col2008 : 0.0000
col2009 : 0.0000
col2010 : 5.0000
col2011 : 3.0000
col2012 : 0.0000
col2013 : 0.0000
col2014 : 0.0000
col2015 : 1.0000
col2016 : 1.0000
col2017 : 2.0000
col2018 : 0.0000
col2019 : 3.0000
col2020 : 0.0000
col2021 : 0.0000
col2022 : 0.0000
col2023 : 0.0000
col2024 : 0.0000
col2025 : 5.0000
col2026 : 0.0000
col2027 : 0.0000
col2028 : 0.0000
col2029 : 0.0000
col2030 : 0.0000
col2031 : 0.0000
col2032 : 1.0000
col2033 : 0.0000
col2034 : 0.0000
col2035 : 0.0000
col2036 : 0.0000
col2037 : 0.0000
col2038 : 0.0000
col2039 : 0.0000
col2040 : 2.0000
col2041 : 0.0000
col2042 : 0.0000
col2043 : 0.0000
col2044 : 0.0000
col2045 : 1.0000
col2046 : 0.0000
col2047 : 0.0000
col2048 : 1.0000
col2049 : 0.0000
col2050 : 2.0000
col2051 : 0.0000
col2052 : 0.0000
col2053 : 0.0000
col2054 : 0.0000
col2055 : 0.0000
col2056 : 0.0000
col2057 : 0.0000
col2058 : 0.0000
col2059 : 0.0000
col2060 : 2.0000
col2061 : 0.0000
col2062 : 0.0000
col2063 : 0.0000
col2064 : 0.0000
col2065 : 0.0000
col2066 : 1.0000
col2067 : 0.0000
col2068 : 0.0000
col2069 : 2.0000
col2070 : 0.0000
col2071 : 0.0000
col2072 : 1.0000
col2073 : 0.0000
col2074 : 0.0000
col2075 : 0.0000
col2076 : 0.0000
col2077 : 2.0000
col2078 : 0.0000
col2079 : 1.0000
col2080 : 1.0000
col2081 : 0.0000
col2082 : 1.0000
col2083 : 0.0000
col2084 : 3.0000
col2085 : 0.0000
col2086 : 2.0000
col2087 : 4.0000
col2088 : 1.0000
col2089 : 0.0000
col2090 : 1.0000
col2091 : 1.0000
col2092 : 2.0000
col2093 : 0.0000
col2094 : 0.0000
col2095 : 1.0000
col2096 : 0.0000
col2097 : 3.0000
col2098 : 6.0000
col2099 : 0.0000
col2100 : 1.0000
col2101 : 1.0000
col2102 : 0.0000
col2103 : 0.0000
col2104 : 0.0000
col2105 : 0.0000
col2106 : 0.0000
col2107 : 1.0000
col2108 : 0.0000
col2109 : 0.0000
col2110 : 0.0000
col2111 : 1.0000
col2112 : 0.0000
col2113 : 4.0000
col2114 : 5.0000
col2115 : 0.0000
col2116 : 0.0000
col2117 : 0.0000
col2118 : 0.0000
col2119 : 0.0000
col2120 : 0.0000
col2121 : 0.0000
col2122 : 0.0000
col2123 : 0.0000
col2124 : 2.0000
col2125 : 0.0000
col2126 : 2.0000
col2127 : 0.0000
col2128 : 0.0000
col2129 : 5.0000
col2130 : 0.0000
col2131 : 0.0000
col2132 : 1.0000
col2133 : 1.0000
col2134 : 0.0000
col2135 : 0.0000
col2136 : 0.0000
col2137 : 1.0000
col2138 : 0.0000
col2139 : 2.0000
col2140 : 0.0000
col2141 : 2.0000
col2142 : 0.0000
col2143 : 0.0000
col2144 : 0.0000
col2145 : 7.0000
col2146 : 1.0000
col2147 : 0.0000
col2148 : 0.0000
col2149 : 2.0000
col2150 : 0.0000
col2151 : 0.0000
col2152 : 0.0000
col2153 : 0.0000
col2154 : 0.0000
col2155 : 0.0000
col2156 : 1.0000
col2157 : 0.0000
col2158 : 0.0000
col2159 : 4.0000
col2160 : 0.0000
col2161 : 0.0000
col2162 : 0.0000
col2163 : 0.0000
col2164 : 0.0000
col2165 : 0.0000
col2166 : 0.0000
col2167 : 0.0000
col2168 : 0.0000
col2169 : 0.0000
col2170 : 0.0000
col2171 : 0.0000
col2172 : 2.0000
col2173 : 0.0000
col2174 : 2.0000
col2175 : 0.0000
col2176 : 1.0000
col2177 : 0.0000
col2178 : 2.0000
col2179 : 5.0000
col2180 : 0.0000
col2181 : 0.0000
col2182 : 4.0000
col2183 : 4.0000
col2184 : 0.0000
col2185 : 0.0000
col2186 : 0.0000
col2187 : 5.0000
col2188 : 0.0000
col2189 : 0.0000
col2190 : 0.0000
col2191 : 0.0000
col2192 : 0.0000
col2193 : 0.0000
col2194 : 0.0000
col2195 : 0.0000
col2196 : 0.0000
col2197 : 0.0000
col2198 : 0.0000
col2199 : 1.0000
col2200 : 4.0000
col2201 : 1.0000
col2202 : 2.0000
col2203 : 0.0000
col2204 : 0.0000
col2205 : 0.0000
col2206 : 0.0000
col2207 : 1.0000
col2208 : 0.0000
col2209 : 0.0000
col2210 : 0.0000
col2211 : 1.0000
col2212 : 0.0000
col2213 : 1.0000
col2214 : 0.0000
col2215 : 0.0000
col2216 : 4.0000
col2217 : 4.0000
col2218 : 0.0000
col2219 : 7.0000
col2220 : 0.0000
col2221 : 4.0000
col2222 : 0.0000
col2223 : 1.0000
col2224 : 0.0000
col2225 : 0.0000
col2226 : 0.0000
col2227 : 0.0000
col2228 : 0.0000
col2229 : 0.0000
col2230 : 0.0000
col2231 : 1.0000
col2232 : 0.0000
col2233 : 0.0000
col2234 : 0.0000
col2235 : 0.0000
col2236 : 1.0000
col2237 : 0.0000
col2238 : 0.0000
col2239 : 1.0000
col2240 : 0.0000
col2241 : 0.0000
col2242 : 0.0000
col2243 : 0.0000
col2244 : 2.0000
col2245 : 0.0000
col2246 : 1.0000
col2247 : 0.0000
col2248 : 1.0000
col2249 : 0.0000
col2250 : 0.0000
col2251 : 0.0000
col2252 : 1.0000
col2253 : 0.0000
col2254 : 0.0000
col2255 : 0.0000
col2256 : 0.0000
col2257 : 0.0000
col2258 : 3.0000
col2259 : 0.0000
col2260 : 1.0000
col2261 : 0.0000
col2262 : 0.0000
col2263 : 0.0000
col2264 : 0.0000
col2265 : 0.0000
col2266 : 3.0000
col2267 : 0.0000
col2268 : 6.0000
col2269 : 0.0000
col2270 : 4.0000
col2271 : 0.0000
col2272 : 6.0000
col2273 : 0.0000
col2274 : 0.0000
col2275 : 0.0000
col2276 : 2.0000
col2277 : 0.0000
col2278 : 0.0000
col2279 : 0.0000
col2280 : 1.0000
col2281 : 0.0000
col2282 : 0.0000
col2283 : 0.0000
col2284 : 0.0000
col2285 : 0.0000
col2286 : 0.0000
col2287 : 0.0000
col2288 : 1.0000
col2289 : 0.0000
col2290 : 1.0000
col2291 : 9.0000
col2292 : 0.0000
col2293 : 0.0000
col2294 : 3.0000
col2295 : 0.0000
col2296 : 2.0000
col2297 : 0.0000
col2298 : 2.0000
col2299 : 0.0000
col2300 : 0.0000
col2301 : 0.0000
col2302 : 0.0000
col2303 : 0.0000
col2304 : 0.0000
col2305 : 0.0000
col2306 : 0.0000
col2307 : 0.0000
col2308 : 0.0000
col2309 : 0.0000
col2310 : 0.0000
col2311 : 0.0000
col2312 : 1.0000
col2313 : 2.0000
col2314 : 0.0000
col2315 : 1.0000
col2316 : 4.0000
col2317 : 3.0000
col2318 : 0.0000
col2319 : 1.0000
col2320 : 0.0000
col2321 : 2.0000
col2322 : 0.0000
col2323 : 0.0000
col2324 : 0.0000
col2325 : 1.0000
col2326 : 1.0000
col2327 : 0.0000
col2328 : 0.0000
col2329 : 2.0000
col2330 : 0.0000
col2331 : 1.0000
col2332 : 0.0000
col2333 : 0.0000
col2334 : 0.0000
col2335 : 0.0000
col2336 : 0.0000
col2337 : 0.0000
col2338 : 0.0000
col2339 : 0.0000
col2340 : 8.0000
col2341 : 0.0000
col2342 : 0.0000
col2343 : 0.0000
col2344 : 0.0000
col2345 : 0.0000
col2346 : 0.0000
col2347 : 0.0000
col2348 : 0.0000
col2349 : 0.0000
col2350 : 0.0000
col2351 : 0.0000
col2352 : 0.0000
col2353 : 3.0000
col2354 : 0.0000
col2355 : 0.0000
col2356 : 0.0000
col2357 : 0.0000
col2358 : 0.0000
col2359 : 0.0000
col2360 : 1.0000
col2361 : 1.0000
col2362 : 0.0000
col2363 : 2.0000
col2364 : 1.0000
col2365 : 6.0000
col2366 : 0.0000
col2367 : 2.0000
col2368 : 0.0000
col2369 : 3.0000
col2370 : 0.0000
col2371 : 1.0000
col2372 : 0.0000
col2373 : 1.0000
col2374 : 1.0000
col2375 : 8.0000
col2376 : 0.0000
col2377 : 0.0000
col2378 : 8.0000
col2379 : 0.0000
col2380 : 1.0000
col2381 : 0.0000
col2382 : 0.0000
col2383 : 0.0000
col2384 : 0.0000
col2385 : 3.0000
col2386 : 3.0000
col2387 : 0.0000
col2388 : 0.0000
col2389 : 0.0000
col2390 : 2.0000
col2391 : 3.0000
col2392 : 0.0000
col2393 : 0.0000
col2394 : 0.0000
col2395 : 0.0000
col2396 : 1.0000
col2397 : 0.0000
col2398 : 0.0000
col2399 : 0.0000
col2400 : 1.0000
col2401 : 7.0000
col2402 : 0.0000
col2403 : 0.0000
col2404 : 2.0000
col2405 : 0.0000
col2406 : 1.0000
col2407 : 1.0000
col2408 : 0.0000
col2409 : 0.0000
col2410 : 0.0000
col2411 : 2.0000
col2412 : 0.0000
col2413 : 1.0000
col2414 : 0.0000
col2415 : 0.0000
col2416 : 0.0000
col2417 : 0.0000
col2418 : 5.0000
col2419 : 2.0000
col2420 : 0.0000
col2421 : 1.0000
col2422 : 0.0000
col2423 : 1.0000
col2424 : 1.0000
col2425 : 0.0000
col2426 : 0.0000
col2427 : 4.0000
col2428 : 0.0000
col2429 : 0.0000
col2430 : 0.0000
col2431 : 2.0000
col2432 : 0.0000
col2433 : 2.0000
col2434 : 2.0000
col2435 : 2.0000
col2436 : 1.0000
col2437 : 0.0000
col2438 : 0.0000
col2439 : 2.0000
col2440 : 0.0000
col2441 : 2.0000
col2442 : 0.0000
col2443 : 0.0000
col2444 : 6.0000
col2445 : 0.0000
col2446 : 0.0000
col2447 : 0.0000
col2448 : 0.0000
col2449 : 0.0000
col2450 : 0.0000
col2451 : 0.0000
col2452 : 6.0000
col2453 : 0.0000
col2454 : 1.0000
col2455 : 0.0000
col2456 : 0.0000
col2457 : 3.0000
col2458 : 3.0000
col2459 : 2.0000
col2460 : 0.0000
col2461 : 0.0000
col2462 : 0.0000
col2463 : 0.0000
col2464 : 0.0000
col2465 : 0.0000
col2466 : 0.0000
col2467 : 2.0000
col2468 : 0.0000
col2469 : 1.0000
col2470 : 0.0000
col2471 : 0.0000
col2472 : 0.0000
col2473 : 0.0000
col2474 : 0.0000
col2475 : 0.0000
col2476 : 0.0000
col2477 : 0.0000
col2478 : 2.0000
col2479 : 0.0000
col2480 : 3.0000
col2481 : 0.0000
col2482 : 4.0000
col2483 : 0.0000
col2484 : 0.0000
col2485 : 0.0000
col2486 : 0.0000
col2487 : 0.0000
col2488 : 3.0000
col2489 : 0.0000
col2490 : 0.0000
col2491 : 3.0000
col2492 : 0.0000
col2493 : 0.0000
col2494 : 1.0000
col2495 : 0.0000
col2496 : 0.0000
col2497 : 0.0000
col2498 : 0.0000
col2499 : 0.0000
col2500 : 4.0000
col2501 : 0.0000
col2502 : 0.0000
col2503 : 1.0000
col2504 : 0.0000
col2505 : 0.0000
col2506 : 0.0000
col2507 : 3.0000
col2508 : 0.0000
col2509 : 0.0000
col2510 : 0.0000
col2511 : 1.0000
col2512 : 0.0000
col2513 : 0.0000
col2514 : 1.0000
col2515 : 0.0000
col2516 : 0.0000
col2517 : 0.0000
col2518 : 0.0000
col2519 : 0.0000
col2520 : 0.0000
col2521 : 8.0000
col2522 : 7.0000
col2523 : 0.0000
col2524 : 0.0000
col2525 : 9.0000
col2526 : 0.0000
col2527 : 2.0000
col2528 : 0.0000
col2529 : 0.0000
col2530 : 0.0000
col2531 : 1.0000
col2532 : 2.0000
col2533 : 0.0000
col2534 : 0.0000
col2535 : 0.0000
col2536 : 1.0000
col2537 : 1.0000
col2538 : 0.0000
col2539 : 0.0000
col2540 : 0.0000
col2541 : 2.0000
col2542 : 0.0000
col2543 : 4.0000
col2544 : 0.0000
col2545 : 0.0000
col2546 : 1.0000
col2547 : 0.0000
col2548 : 0.0000
col2549 : 0.0000
col2550 : 0.0000
col2551 : 0.0000
col2552 : 0.0000
col2553 : 0.0000
col2554 : 1.0000
col2555 : 0.0000
col2556 : 1.0000
col2557 : 0.0000
col2558 : 1.0000
col2559 : 0.0000
col2560 : 3.0000
col2561 : 0.0000
col2562 : 1.0000
col2563 : 0.0000
col2564 : 1.0000
col2565 : 0.0000
col2566 : 0.0000
col2567 : 0.0000
col2568 : 0.0000
col2569 : 0.0000
col2570 : 3.0000
col2571 : 0.0000
col2572 : 0.0000
col2573 : 0.0000
col2574 : 0.0000
col2575 : 0.0000
col2576 : 1.0000
col2577 : 0.0000
col2578 : 3.0000
col2579 : 1.0000
col2580 : 0.0000
col2581 : 1.0000
col2582 : 1.0000
col2583 : 1.0000
col2584 : 1.0000
col2585 : 0.0000
col2586 : 0.0000
col2587 : 0.0000
col2588 : 0.0000
col2589 : 0.0000
col2590 : 0.0000
col2591 : 0.0000
col2592 : 0.0000
col2593 : 0.0000
col2594 : 0.0000
col2595 : 0.0000
col2596 : 0.0000
col2597 : 3.0000
col2598 : 0.0000
col2599 : 0.0000
col2600 : 0.0000
col2601 : 0.0000
col2602 : 0.0000
col2603 : 1.0000
col2604 : 1.0000
col2605 : 1.0000
col2606 : 0.0000
col2607 : 0.0000
col2608 : 0.0000
col2609 : 0.0000
col2610 : 0.0000
col2611 : 0.0000
col2612 : 0.0000
col2613 : 0.0000
col2614 : 12.0000
col2615 : 0.0000
col2616 : 1.0000
col2617 : 0.0000
col2618 : 0.0000
col2619 : 0.0000
col2620 : 0.0000
col2621 : 3.0000
col2622 : 1.0000
col2623 : 0.0000
col2624 : 0.0000
col2625 : 1.0000
col2626 : 1.0000
col2627 : 0.0000
col2628 : 0.0000
col2629 : 0.0000
col2630 : 0.0000
col2631 : 0.0000
col2632 : 2.0000
col2633 : 1.0000
col2634 : 1.0000
col2635 : 0.0000
col2636 : 0.0000
col2637 : 5.0000
col2638 : 0.0000
col2639 : 0.0000
col2640 : 3.0000
col2641 : 0.0000
col2642 : 3.0000
col2643 : 2.0000
col2644 : 11.0000
col2645 : 0.0000
col2646 : 0.0000
col2647 : 0.0000
col2648 : 1.0000
col2649 : 0.0000
col2650 : 2.0000
col2651 : 0.0000
col2652 : 0.0000
col2653 : 0.0000
col2654 : 0.0000
col2655 : 0.0000
col2656 : 0.0000
col2657 : 0.0000
col2658 : 0.0000
col2659 : 0.0000
col2660 : 3.0000
col2661 : 0.0000
col2662 : 1.0000
col2663 : 0.0000
col2664 : 0.0000
col2665 : 0.0000
col2666 : 1.0000
col2667 : 0.0000
col2668 : 2.0000
col2669 : 8.0000
col2670 : 1.0000
col2671 : 0.0000
col2672 : 0.0000
col2673 : 0.0000
col2674 : 0.0000
col2675 : 0.0000
col2676 : 0.0000
col2677 : 4.0000
col2678 : 0.0000
col2679 : 7.0000
col2680 : 0.0000
col2681 : 0.0000
col2682 : 0.0000
col2683 : 1.0000
col2684 : 1.0000
col2685 : 0.0000
col2686 : 0.0000
col2687 : 0.0000
col2688 : 0.0000
col2689 : 0.0000
col2690 : 0.0000
col2691 : 0.0000
col2692 : 0.0000
col2693 : 0.0000
col2694 : 1.0000
col2695 : 0.0000
col2696 : 0.0000
col2697 : 1.0000
col2698 : 0.0000
col2699 : 0.0000
col2700 : 0.0000
col2701 : 0.0000
col2702 : 0.0000
col2703 : 0.0000
col2704 : 0.0000
col2705 : 7.0000
col2706 : 0.0000
col2707 : 0.0000
col2708 : 0.0000
col2709 : 0.0000
col2710 : 0.0000
col2711 : 0.0000
col2712 : 0.0000
col2713 : 0.0000
col2714 : 0.0000
col2715 : 0.0000
col2716 : 2.0000
col2717 : 0.0000
col2718 : 0.0000
col2719 : 0.0000
col2720 : 1.0000
col2721 : 4.0000
col2722 : 4.0000
col2723 : 0.0000
col2724 : 0.0000
col2725 : 1.0000
col2726 : 0.0000
col2727 : 0.0000
col2728 : 0.0000
col2729 : 4.0000
col2730 : 2.0000
col2731 : 0.0000
col2732 : 0.0000
col2733 : 0.0000
col2734 : 1.0000
col2735 : 0.0000
col2736 : 0.0000
col2737 : 2.0000
col2738 : 4.0000
col2739 : 0.0000
col2740 : 0.0000
col2741 : 0.0000
col2742 : 0.0000
col2743 : 1.0000
col2744 : 4.0000
col2745 : 2.0000
col2746 : 0.0000
col2747 : 1.0000
col2748 : 0.0000
col2749 : 0.0000
col2750 : 0.0000
col2751 : 0.0000
col2752 : 0.0000
col2753 : 0.0000
col2754 : 0.0000
col2755 : 0.0000
col2756 : 0.0000
col2757 : 0.0000
col2758 : 0.0000
col2759 : 0.0000
col2760 : 6.0000
col2761 : 0.0000
col2762 : 0.0000
col2763 : 1.0000
col2764 : 0.0000
col2765 : 1.0000
col2766 : 0.0000
col2767 : 0.0000
col2768 : 1.0000
col2769 : 0.0000
col2770 : 0.0000
col2771 : 2.0000
col2772 : 0.0000
col2773 : 2.0000
col2774 : 0.0000
col2775 : 1.0000
col2776 : 0.0000
col2777 : 1.0000
col2778 : 0.0000
col2779 : 0.0000
col2780 : 6.0000
col2781 : 0.0000
col2782 : 0.0000
col2783 : 0.0000
col2784 : 1.0000
col2785 : 5.0000
col2786 : 0.0000
col2787 : 0.0000
col2788 : 0.0000
col2789 : 3.0000
col2790 : 1.0000
col2791 : 4.0000
col2792 : 0.0000
col2793 : 1.0000
col2794 : 0.0000
col2795 : 0.0000
col2796 : 0.0000
col2797 : 3.0000
col2798 : 0.0000
col2799 : 2.0000
col2800 : 0.0000
col2801 : 0.0000
col2802 : 2.0000
col2803 : 0.0000
col2804 : 0.0000
col2805 : 2.0000
col2806 : 0.0000
col2807 : 0.0000
col2808 : 0.0000
col2809 : 0.0000
col2810 : 0.0000
col2811 : 0.0000
col2812 : 8.0000
col2813 : 2.0000
col2814 : 0.0000
col2815 : 0.0000
col2816 : 1.0000
col2817 : 3.0000
col2818 : 0.0000
col2819 : 0.0000
col2820 : 2.0000
col2821 : 4.0000
col2822 : 0.0000
col2823 : 0.0000
col2824 : 2.0000
col2825 : 0.0000
col2826 : 0.0000
col2827 : 2.0000
col2828 : 0.0000
col2829 : 0.0000
col2830 : 3.0000
col2831 : 3.0000
col2832 : 0.0000
col2833 : 4.0000
col2834 : 3.0000
col2835 : 2.0000
col2836 : 0.0000
col2837 : 0.0000
col2838 : 0.0000
col2839 : 0.0000
col2840 : 1.0000
col2841 : 1.0000
col2842 : 0.0000
col2843 : 0.0000
col2844 : 1.0000
col2845 : 0.0000
col2846 : 0.0000
col2847 : 1.0000
col2848 : 1.0000
col2849 : 1.0000
col2850 : 6.0000
col2851 : 0.0000
col2852 : 0.0000
col2853 : 0.0000
col2854 : 0.0000
col2855 : 0.0000
col2856 : 0.0000
col2857 : 5.0000
col2858 : 1.0000
col2859 : 0.0000
col2860 : 0.0000
col2861 : 0.0000
col2862 : 1.0000
col2863 : 1.0000
col2864 : 0.0000
col2865 : 0.0000
col2866 : 0.0000
col2867 : 2.0000
col2868 : 0.0000
col2869 : 1.0000
col2870 : 0.0000
col2871 : 0.0000
col2872 : 0.0000
col2873 : 0.0000
col2874 : 1.0000
col2875 : 0.0000
col2876 : 0.0000
col2877 : 0.0000
col2878 : 0.0000
col2879 : 1.0000
col2880 : 0.0000
col2881 : 4.0000
col2882 : 0.0000
col2883 : 0.0000
col2884 : 8.0000
col2885 : 0.0000
col2886 : 2.0000
col2887 : 2.0000
col2888 : 2.0000
col2889 : 1.0000
col2890 : 0.0000
col2891 : 0.0000
col2892 : 0.0000
col2893 : 0.0000
col2894 : 0.0000
col2895 : 0.0000
col2896 : 0.0000
col2897 : 1.0000
col2898 : 0.0000
col2899 : 6.0000
col2900 : 2.0000
col2901 : 0.0000
col2902 : 2.0000
col2903 : 2.0000
col2904 : 0.0000
col2905 : 0.0000
col2906 : 0.0000
col2907 : 0.0000
col2908 : 0.0000
col2909 : 0.0000
col2910 : 1.0000
col2911 : 0.0000
col2912 : 4.0000
col2913 : 0.0000
col2914 : 1.0000
col2915 : 0.0000
col2916 : 0.0000
col2917 : 5.0000
col2918 : 1.0000
col2919 : 0.0000
col2920 : 0.0000
col2921 : 3.0000
col2922 : 1.0000
col2923 : 0.0000
col2924 : 1.0000
col2925 : 2.0000
col2926 : 0.0000
col2927 : 0.0000
col2928 : 0.0000
col2929 : 1.0000
col2930 : 0.0000
col2931 : 0.0000
col2932 : 3.0000
col2933 : 0.0000
col2934 : 0.0000
col2935 : 0.0000
col2936 : 0.0000
col2937 : 0.0000
col2938 : 0.0000
col2939 : 0.0000
col2940 : 0.0000
col2941 : 0.0000
col2942 : 0.0000
col2943 : 0.0000
col2944 : 3.0000
col2945 : 0.0000
col2946 : 0.0000
col2947 : 0.0000
col2948 : 0.0000
col2949 : 1.0000
col2950 : 1.0000
col2951 : 0.0000
col2952 : 0.0000
col2953 : 0.0000
col2954 : 0.0000
col2955 : 2.0000
col2956 : 0.0000
col2957 : 3.0000
col2958 : 0.0000
col2959 : 1.0000
col2960 : 0.0000
col2961 : 0.0000
col2962 : 0.0000
col2963 : 11.0000
col2964 : 0.0000
col2965 : 0.0000
col2966 : 2.0000
col2967 : 2.0000
col2968 : 0.0000
col2969 : 2.0000
col2970 : 1.0000
col2971 : 0.0000
col2972 : 0.0000
col2973 : 0.0000
col2974 : 0.0000
col2975 : 0.0000
col2976 : 0.0000
col2977 : 1.0000
col2978 : 0.0000
col2979 : 2.0000
col2980 : 0.0000
col2981 : 1.0000
col2982 : 0.0000
col2983 : 3.0000
col2984 : 0.0000
col2985 : 1.0000
col2986 : 0.0000
col2987 : 0.0000
col2988 : 0.0000
col2989 : 7.0000
col2990 : 0.0000
col2991 : 0.0000
col2992 : 0.0000
col2993 : 0.0000
col2994 : 0.0000
col2995 : 0.0000
col2996 : 0.0000
col2997 : 0.0000
col2998 : 0.0000
col2999 : 1.0000
col3000 : 0.0000
col3001 : 3.0000
col3002 : 0.0000
col3003 : 0.0000
col3004 : 2.0000
col3005 : 0.0000
col3006 : 0.0000
col3007 : 2.0000
col3008 : 0.0000
col3009 : 0.0000
col3010 : 1.0000
col3011 : 0.0000
col3012 : 2.0000
col3013 : 0.0000
col3014 : 0.0000
col3015 : 0.0000
col3016 : 0.0000
col3017 : 8.0000
col3018 : 2.0000
col3019 : 0.0000
col3020 : 0.0000
col3021 : 2.0000
col3022 : 0.0000
col3023 : 5.0000
col3024 : 4.0000
col3025 : 0.0000
col3026 : 0.0000
col3027 : 2.0000
col3028 : 0.0000
col3029 : 1.0000
col3030 : 0.0000
col3031 : 0.0000
col3032 : 0.0000
col3033 : 0.0000
col3034 : 0.0000
col3035 : 0.0000
col3036 : 0.0000
col3037 : 1.0000
col3038 : 1.0000
col3039 : 0.0000
col3040 : 0.0000
col3041 : 0.0000
col3042 : 0.0000
col3043 : 0.0000
col3044 : 0.0000
col3045 : 0.0000
col3046 : 1.0000
col3047 : 0.0000
col3048 : 2.0000
col3049 : 0.0000
col3050 : 0.0000
col3051 : 7.0000
col3052 : 2.0000
col3053 : 0.0000
col3054 : 0.0000
col3055 : 1.0000
col3056 : 0.0000
col3057 : 0.0000
col3058 : 6.0000
col3059 : 1.0000
col3060 : 0.0000
col3061 : 0.0000
col3062 : 0.0000
col3063 : 0.0000
col3064 : 0.0000
col3065 : 0.0000
col3066 : 2.0000
col3067 : 0.0000
col3068 : 1.0000
col3069 : 0.0000
col3070 : 0.0000
col3071 : 2.0000
col3072 : 0.0000
col3073 : 1.0000
col3074 : 0.0000
col3075 : 0.0000
col3076 : 0.0000
col3077 : 0.0000
col3078 : 3.0000
col3079 : 0.0000
col3080 : 0.0000
col3081 : 0.0000
col3082 : 0.0000
col3083 : 0.0000
col3084 : 0.0000
col3085 : 0.0000
col3086 : 0.0000
col3087 : 0.0000
col3088 : 0.0000
col3089 : 0.0000
col3090 : 2.0000
col3091 : 3.0000
col3092 : 2.0000
col3093 : 0.0000
col3094 : 0.0000
col3095 : 0.0000
col3096 : 0.0000
col3097 : 0.0000
col3098 : 1.0000
col3099 : 5.0000
col3100 : 1.0000
col3101 : 1.0000
col3102 : 0.0000
col3103 : 0.0000
col3104 : 0.0000
col3105 : 0.0000
col3106 : 0.0000
col3107 : 0.0000
col3108 : 1.0000
col3109 : 0.0000
col3110 : 0.0000
col3111 : 1.0000
col3112 : 7.0000
col3113 : 2.0000
col3114 : 0.0000
col3115 : 1.0000
col3116 : 8.0000
col3117 : 0.0000
col3118 : 0.0000
col3119 : 1.0000
col3120 : 0.0000
col3121 : 1.0000
col3122 : 1.0000
col3123 : 0.0000
col3124 : 0.0000
col3125 : 0.0000
col3126 : 0.0000
col3127 : 0.0000
col3128 : 0.0000
col3129 : 0.0000
col3130 : 2.0000
col3131 : 3.0000
col3132 : 0.0000
col3133 : 1.0000
col3134 : 0.0000
col3135 : 0.0000
col3136 : 0.0000
col3137 : 0.0000
col3138 : 0.0000
col3139 : 5.0000
col3140 : 0.0000
col3141 : 1.0000
col3142 : 3.0000
col3143 : 0.0000
col3144 : 0.0000
col3145 : 0.0000
col3146 : 2.0000
col3147 : 0.0000
col3148 : 0.0000
col3149 : 0.0000
col3150 : 4.0000
col3151 : 0.0000
col3152 : 2.0000
col3153 : 2.0000
col3154 : 0.0000
col3155 : 0.0000
col3156 : 0.0000
col3157 : 0.0000
col3158 : 0.0000
col3159 : 0.0000
col3160 : 0.0000
col3161 : 0.0000
col3162 : 0.0000
col3163 : 0.0000
col3164 : 0.0000
col3165 : 0.0000
col3166 : 0.0000
col3167 : 0.0000
col3168 : 1.0000
col3169 : 0.0000
col3170 : 0.0000
col3171 : 0.0000
col3172 : 0.0000
col3173 : 0.0000
col3174 : 1.0000
col3175 : 5.0000
col3176 : 0.0000
col3177 : 0.0000
col3178 : 0.0000
col3179 : 2.0000
col3180 : 0.0000
col3181 : 0.0000
col3182 : 2.0000
col3183 : 0.0000
col3184 : 0.0000
col3185 : 1.0000
col3186 : 0.0000
col3187 : 0.0000
col3188 : 0.0000
col3189 : 0.0000
col3190 : 0.0000
col3191 : 0.0000
col3192 : 2.0000
col3193 : 0.0000
col3194 : 2.0000
col3195 : 0.0000
col3196 : 0.0000
col3197 : 0.0000
col3198 : 3.0000
col3199 : 0.0000
col3200 : 0.0000
col3201 : 2.0000
col3202 : 3.0000
col3203 : 1.0000
col3204 : 0.0000
col3205 : 0.0000
col3206 : 1.0000
col3207 : 1.0000
col3208 : 2.0000
col3209 : 1.0000
col3210 : 1.0000
col3211 : 0.0000
col3212 : 0.0000
col3213 : 0.0000
col3214 : 2.0000
col3215 : 2.0000
col3216 : 0.0000
col3217 : 2.0000
col3218 : 1.0000
col3219 : 0.0000
col3220 : 3.0000
col3221 : 0.0000
col3222 : 0.0000
col3223 : 0.0000
col3224 : 2.0000
col3225 : 0.0000
col3226 : 3.0000
col3227 : 0.0000
col3228 : 3.0000
col3229 : 0.0000
col3230 : 0.0000
col3231 : 0.0000
col3232 : 0.0000
col3233 : 0.0000
col3234 : 0.0000
col3235 : 1.0000
col3236 : 0.0000
col3237 : 1.0000
col3238 : 0.0000
col3239 : 0.0000
col3240 : 0.0000
col3241 : 2.0000
col3242 : 0.0000
col3243 : 7.0000
col3244 : 2.0000
col3245 : 1.0000
col3246 : 0.0000
col3247 : 0.0000
col3248 : 0.0000
col3249 : 2.0000
col3250 : 0.0000
col3251 : 0.0000
col3252 : 1.0000
col3253 : 0.0000
col3254 : 0.0000
col3255 : 0.0000
col3256 : 0.0000
col3257 : 1.0000
col3258 : 0.0000
col3259 : 7.0000
col3260 : 0.0000
col3261 : 0.0000
col3262 : 0.0000
col3263 : 8.0000
col3264 : 0.0000
col3265 : 0.0000
col3266 : 3.0000
col3267 : 0.0000
col3268 : 0.0000
col3269 : 0.0000
col3270 : 0.0000
col3271 : 3.0000
col3272 : 0.0000
col3273 : 7.0000
col3274 : 1.0000
col3275 : 2.0000
col3276 : 0.0000
col3277 : 0.0000
col3278 : 1.0000
col3279 : 0.0000
col3280 : 0.0000
col3281 : 0.0000
col3282 : 0.0000
col3283 : 1.0000
col3284 : 0.0000
col3285 : 0.0000
col3286 : 1.0000
col3287 : 0.0000
col3288 : 0.0000
col3289 : 1.0000
col3290 : 2.0000
col3291 : 0.0000
col3292 : 0.0000
col3293 : 0.0000
col3294 : 0.0000
col3295 : 1.0000
col3296 : 0.0000
col3297 : 0.0000
col3298 : 0.0000
col3299 : 0.0000
col3300 : 6.0000
col3301 : 0.0000
col3302 : 0.0000
col3303 : 0.0000
col3304 : 2.0000
col3305 : 1.0000
col3306 : 0.0000
col3307 : 0.0000
col3308 : 1.0000
col3309 : 0.0000
col3310 : 0.0000
col3311 : 0.0000
col3312 : 0.0000
col3313 : 2.0000
col3314 : 0.0000
col3315 : 0.0000
col3316 : 0.0000
col3317 : 0.0000
col3318 : 1.0000
col3319 : 0.0000
col3320 : 0.0000
col3321 : 1.0000
col3322 : 0.0000
col3323 : 0.0000
col3324 : 0.0000
col3325 : 0.0000
col3326 : 0.0000
col3327 : 9.0000
col3328 : 0.0000
col3329 : 1.0000
col3330 : 0.0000
col3331 : 0.0000
col3332 : 0.0000
col3333 : 0.0000
col3334 : 0.0000
col3335 : 5.0000
col3336 : 0.0000
col3337 : 0.0000
col3338 : 0.0000
col3339 : 0.0000
col3340 : 0.0000
col3341 : 1.0000
col3342 : 0.0000
col3343 : 0.0000
col3344 : 0.0000
col3345 : 0.0000
col3346 : 1.0000
col3347 : 1.0000
col3348 : 0.0000
col3349 : 0.0000
col3350 : 0.0000
col3351 : 0.0000
col3352 : 0.0000
col3353 : 1.0000
col3354 : 1.0000
col3355 : 0.0000
col3356 : 0.0000
col3357 : 0.0000
col3358 : 0.0000
col3359 : 0.0000
col3360 : 3.0000
col3361 : 0.0000
col3362 : 0.0000
col3363 : 0.0000
col3364 : 0.0000
col3365 : 0.0000
col3366 : 2.0000
col3367 : 0.0000
col3368 : 0.0000
col3369 : 1.0000
col3370 : 1.0000
col3371 : 0.0000
col3372 : 0.0000
col3373 : 0.0000
col3374 : 0.0000
col3375 : 3.0000
col3376 : 3.0000
col3377 : 1.0000
col3378 : 0.0000
col3379 : 2.0000
col3380 : 0.0000
col3381 : 0.0000
col3382 : 0.0000
col3383 : 0.0000
col3384 : 0.0000
col3385 : 0.0000
col3386 : 0.0000
col3387 : 1.0000
col3388 : 0.0000
col3389 : 0.0000
col3390 : 0.0000
col3391 : 2.0000
col3392 : 1.0000
col3393 : 0.0000
col3394 : 0.0000
col3395 : 3.0000
col3396 : 4.0000
col3397 : 0.0000
col3398 : 0.0000
col3399 : 0.0000
col3400 : 0.0000
col3401 : 0.0000
col3402 : 1.0000
col3403 : 0.0000
col3404 : 0.0000
col3405 : 0.0000
col3406 : 1.0000
col3407 : 0.0000
col3408 : 0.0000
col3409 : 0.0000
col3410 : 0.0000
col3411 : 0.0000
col3412 : 4.0000
col3413 : 0.0000
col3414 : 0.0000
col3415 : 0.0000
col3416 : 3.0000
col3417 : 2.0000
col3418 : 2.0000
col3419 : 0.0000
col3420 : 0.0000
col3421 : 0.0000
col3422 : 0.0000
col3423 : 0.0000
col3424 : 0.0000
col3425 : 0.0000
col3426 : 3.0000
col3427 : 1.0000
col3428 : 2.0000
col3429 : 1.0000
col3430 : 0.0000
col3431 : 2.0000
col3432 : 0.0000
col3433 : 1.0000
col3434 : 1.0000
col3435 : 0.0000
col3436 : 0.0000
col3437 : 1.0000
col3438 : 9.0000
col3439 : 0.0000
col3440 : 0.0000
col3441 : 1.0000
col3442 : 2.0000
col3443 : 1.0000
col3444 : 0.0000
col3445 : 3.0000
col3446 : 0.0000
col3447 : 0.0000
col3448 : 2.0000
col3449 : 0.0000
col3450 : 0.0000
col3451 : 3.0000
col3452 : 0.0000
col3453 : 0.0000
col3454 : 1.0000
col3455 : 0.0000
col3456 : 0.0000
col3457 : 0.0000
col3458 : 0.0000
col3459 : 0.0000
col3460 : 0.0000
col3461 : 0.0000
col3462 : 4.0000
col3463 : 2.0000
col3464 : 0.0000
col3465 : 1.0000
col3466 : 0.0000
col3467 : 1.0000
col3468 : 2.0000
col3469 : 0.0000
col3470 : 0.0000
col3471 : 0.0000
col3472 : 4.0000
col3473 : 0.0000
col3474 : 2.0000
col3475 : 0.0000
col3476 : 3.0000
col3477 : 3.0000
col3478 : 0.0000
col3479 : 0.0000
col3480 : 0.0000
col3481 : 2.0000
col3482 : 2.0000
col3483 : 23.0000
col3484 : 0.0000
col3485 : 0.0000
col3486 : 5.0000
col3487 : 0.0000
col3488 : 0.0000
col3489 : 0.0000
col3490 : 0.0000
col3491 : 0.0000
col3492 : 4.0000
col3493 : 0.0000
col3494 : 0.0000
col3495 : 0.0000
col3496 : 0.0000
col3497 : 0.0000
col3498 : 0.0000
col3499 : 2.0000
col3500 : 0.0000
col3501 : 0.0000
col3502 : 5.0000
col3503 : 1.0000
col3504 : 0.0000
col3505 : 0.0000
col3506 : 0.0000
col3507 : 0.0000
col3508 : 0.0000
col3509 : 0.0000
col3510 : 0.0000
col3511 : 0.0000
col3512 : 0.0000
col3513 : 2.0000
col3514 : 0.0000
col3515 : 0.0000
col3516 : 2.0000
col3517 : 0.0000
col3518 : 0.0000
col3519 : 3.0000
col3520 : 1.0000
col3521 : 1.0000
col3522 : 0.0000
col3523 : 0.0000
col3524 : 0.0000
col3525 : 0.0000
col3526 : 0.0000
col3527 : 0.0000
col3528 : 0.0000
col3529 : 0.0000
col3530 : 3.0000
col3531 : 0.0000
col3532 : 2.0000
col3533 : 0.0000
col3534 : 0.0000
col3535 : 0.0000
col3536 : 1.0000
col3537 : 0.0000
col3538 : 0.0000
col3539 : 0.0000
col3540 : 2.0000
col3541 : 0.0000
col3542 : 0.0000
col3543 : 2.0000
col3544 : 0.0000
col3545 : 2.0000
col3546 : 0.0000
col3547 : 1.0000
col3548 : 0.0000
col3549 : 0.0000
col3550 : 1.0000
col3551 : 0.0000
col3552 : 6.0000
col3553 : 0.0000
col3554 : 0.0000
col3555 : 0.0000
col3556 : 0.0000
col3557 : 0.0000
col3558 : 0.0000
col3559 : 4.0000
col3560 : 0.0000
col3561 : 0.0000
col3562 : 0.0000
col3563 : 0.0000
col3564 : 0.0000
col3565 : 0.0000
col3566 : 0.0000
col3567 : 0.0000
col3568 : 0.0000
col3569 : 0.0000
col3570 : 1.0000
col3571 : 1.0000
col3572 : 1.0000
col3573 : 0.0000
col3574 : 2.0000
col3575 : 2.0000
col3576 : 0.0000
col3577 : 0.0000
col3578 : 0.0000
col3579 : 0.0000
col3580 : 0.0000
col3581 : 2.0000
col3582 : 2.0000
col3583 : 3.0000
col3584 : 1.0000
col3585 : 0.0000
col3586 : 0.0000
col3587 : 0.0000
col3588 : 0.0000
col3589 : 0.0000
col3590 : 5.0000
col3591 : 1.0000
col3592 : 0.0000
col3593 : 0.0000
col3594 : 1.0000
col3595 : 0.0000
col3596 : 0.0000
col3597 : 0.0000
col3598 : 0.0000
col3599 : 0.0000
col3600 : 0.0000
col3601 : 0.0000
col3602 : 0.0000
col3603 : 3.0000
col3604 : 3.0000
col3605 : 0.0000
col3606 : 0.0000
col3607 : 0.0000
col3608 : 0.0000
col3609 : 3.0000
col3610 : 2.0000
col3611 : 0.0000
col3612 : 0.0000
col3613 : 0.0000
col3614 : 0.0000
col3615 : 1.0000
col3616 : 0.0000
col3617 : 2.0000
col3618 : 0.0000
col3619 : 0.0000
col3620 : 2.0000
col3621 : 0.0000
col3622 : 5.0000
col3623 : 0.0000
col3624 : 0.0000
col3625 : 0.0000
col3626 : 0.0000
col3627 : 0.0000
col3628 : 0.0000
col3629 : 0.0000
col3630 : 0.0000
col3631 : 0.0000
col3632 : 0.0000
col3633 : 0.0000
col3634 : 0.0000
col3635 : 1.0000
col3636 : 0.0000
col3637 : 0.0000
col3638 : 0.0000
col3639 : 0.0000
col3640 : 0.0000
col3641 : 0.0000
col3642 : 0.0000
col3643 : 0.0000
col3644 : 0.0000
col3645 : 4.0000
col3646 : 0.0000
col3647 : 0.0000
col3648 : 0.0000
col3649 : 0.0000
col3650 : 0.0000
col3651 : 3.0000
col3652 : 3.0000
col3653 : 2.0000
col3654 : 0.0000
col3655 : 0.0000
col3656 : 0.0000
col3657 : 0.0000
col3658 : 0.0000
col3659 : 0.0000
col3660 : 7.0000
col3661 : 0.0000
col3662 : 0.0000
col3663 : 0.0000
col3664 : 0.0000
col3665 : 0.0000
col3666 : 0.0000
col3667 : 1.0000
col3668 : 8.0000
col3669 : 0.0000
col3670 : 0.0000
col3671 : 0.0000
col3672 : 0.0000
col3673 : 0.0000
col3674 : 0.0000
col3675 : 0.0000
col3676 : 0.0000
col3677 : 0.0000
col3678 : 0.0000
col3679 : 2.0000
col3680 : 0.0000
col3681 : 0.0000
col3682 : 0.0000
col3683 : 0.0000
col3684 : 0.0000
col3685 : 0.0000
col3686 : 1.0000
col3687 : 1.0000
col3688 : 0.0000
col3689 : 0.0000
col3690 : 1.0000
col3691 : 0.0000
col3692 : 2.0000
col3693 : 0.0000
col3694 : 2.0000
col3695 : 0.0000
col3696 : 0.0000
col3697 : 1.0000
col3698 : 1.0000
col3699 : 0.0000
col3700 : 0.0000
col3701 : 3.0000
col3702 : 2.0000
col3703 : 0.0000
col3704 : 0.0000
col3705 : 2.0000
col3706 : 0.0000
col3707 : 1.0000
col3708 : 0.0000
col3709 : 3.0000
col3710 : 1.0000
col3711 : 0.0000
col3712 : 0.0000
col3713 : 0.0000
col3714 : 0.0000
col3715 : 0.0000
col3716 : 0.0000
col3717 : 0.0000
col3718 : 0.0000
col3719 : 0.0000
col3720 : 0.0000
col3721 : 0.0000
col3722 : 1.0000
col3723 : 0.0000
col3724 : 0.0000
col3725 : 4.0000
col3726 : 0.0000
col3727 : 0.0000
col3728 : 0.0000
col3729 : 1.0000
col3730 : 2.0000
col3731 : 1.0000
col3732 : 0.0000
col3733 : 0.0000
col3734 : 5.0000
col3735 : 0.0000
col3736 : 0.0000
col3737 : 0.0000
col3738 : 0.0000
col3739 : 0.0000
col3740 : 4.0000
col3741 : 0.0000
col3742 : 0.0000
col3743 : 0.0000
col3744 : 0.0000
col3745 : 2.0000
col3746 : 0.0000
col3747 : 0.0000
col3748 : 7.0000
col3749 : 3.0000
col3750 : 3.0000
col3751 : 0.0000
col3752 : 0.0000
col3753 : 0.0000
col3754 : 0.0000
col3755 : 0.0000
col3756 : 0.0000
col3757 : 0.0000
col3758 : 1.0000
col3759 : 0.0000
col3760 : 2.0000
col3761 : 0.0000
col3762 : 3.0000
col3763 : 0.0000
col3764 : 0.0000
col3765 : 0.0000
col3766 : 0.0000
col3767 : 0.0000
col3768 : 1.0000
col3769 : 1.0000
col3770 : 2.0000
col3771 : 0.0000
col3772 : 4.0000
col3773 : 0.0000
col3774 : 0.0000
col3775 : 2.0000
col3776 : 0.0000
col3777 : 4.0000
col3778 : 0.0000
col3779 : 0.0000
col3780 : 0.0000
col3781 : 1.0000
col3782 : 0.0000
col3783 : 0.0000
col3784 : 1.0000
col3785 : 0.0000
col3786 : 0.0000
col3787 : 0.0000
col3788 : 0.0000
col3789 : 0.0000
col3790 : 1.0000
col3791 : 0.0000
col3792 : 0.0000
col3793 : 1.0000
col3794 : 3.0000
col3795 : 0.0000
col3796 : 0.0000
col3797 : 3.0000
col3798 : 0.0000
col3799 : 0.0000
col3800 : 1.0000
col3801 : 0.0000
col3802 : 0.0000
col3803 : 9.0000
col3804 : 0.0000
col3805 : 0.0000
print('Feature Importances:')
import_fs = []
for i, feat in enumerate(X):
if fti[i] >= 10:
import_fs.append(feat)
print('\t{0:10s} : {1:>12.4f}'.format(feat, fti[i]))
Feature Importances:
col88 : 60.0000
col255 : 10.0000
col792 : 11.0000
col912 : 13.0000
col1161 : 10.0000
col1337 : 11.0000
col2614 : 12.0000
col2644 : 11.0000
col2963 : 11.0000
col3483 : 23.0000
import_fs
['col88',
'col255',
'col792',
'col912',
'col1161',
'col1337',
'col2614',
'col2644',
'col2963',
'col3483']
important_f = ['ID','col88','col158','col382','col912','col945','col951','col1091','col1201','col1292','col1902','col1917','col1965','col2146','col2230','col3112','col3622']
アンサンブル学習
# 予測値の算出
y_pred_EN = pd.Series(best_model_EN.predict(X_test))
y_pred_RF = pd.Series(best_model_RF.predict(X_test))
y_pred_LGBM = pd.Series(best_model_LGBM.predict(X_test))
誤差に応じた重み付けの場合
cv_accuracy_df = pd.concat([cv_accuracy_EN, cv_accuracy_RF, cv_accuracy_LGBM],axis=1)
cv_accuracy_df.columns = ['EN','RF','LGBM']
cv_accuracy_df
| EN | RF | LGBM | |
|---|---|---|---|
| test_r2 | 0.293996 | 0.339802 | 0.318403 |
| test_RMSE | 0.752523 | 0.727866 | 0.739632 |
| test_MER | 0.236510 | 0.217333 | 0.220613 |
# r2を基準にする場合
accuracy_scores = cv_accuracy_df.loc['test_r2',]
## 合計が1になるように変換
accuracy_scores = accuracy_scores / accuracy_scores.sum()
accuracy_scores
EN 0.308754
RF 0.356860
LGBM 0.334386
Name: test_r2, dtype: float64
# アンサンブルした予測値の算出
y_pred_ens = accuracy_scores[0] * y_pred_EN + accuracy_scores[1] * y_pred_RF + accuracy_scores[2] * y_pred_LGBM
# 誤差を算出
y_true = y_test.reset_index(drop=True)
print('R2:', '{:.3g}'.format(r2_score(y_true, y_pred_ens)))
print('RMSE:', '{:.3g}'.format(root_mean_squared_error(y_true, y_pred_ens)))
print('MER:', '{:.3g}'.format(median_absolute_error_rate(y_true, y_pred_ens)))
R2: 0.39
RMSE: 0.732
MER: 0.208
OLSで重みを推定し重み付け
# アンサンブルで予測値の重み付け和を作る
## 各予測モデルのtrainデータの予測値の算出
y_train_pred_EN = pd.Series(best_model_EN.predict(X_train))
y_train_pred_RF = pd.Series(best_model_RF.predict(X_train))
y_train_pred_LGBM = pd.Series(best_model_LGBM.predict(X_train))
pred_df = pd.concat([y_train_pred_EN, y_train_pred_RF, y_train_pred_LGBM],axis=1)
## 最適な重みをOLSで推定する
from sklearn.linear_model import LinearRegression
lm = LinearRegression(fit_intercept=False)
lm.fit(pred_df, y_train)
lm.coef_
array([0.3433345 , 0.33504337, 0.33504337])
# 係数の合計が1になるように調整
coef = lm.coef_ / lm.coef_.sum()
# アンサンブルした予測値の算出
y_pred_ens = coef[0] * y_pred_EN + coef[1] * y_pred_RF + coef[2] * y_pred_LGBM
# 予測と提出
df_test = pd.read_csv("./test.csv")
df_test.head()
| ID | col1 | col2 | col3 | col4 | col5 | col6 | col7 | col8 | col9 | col10 | col11 | col12 | col13 | col14 | col15 | col16 | col17 | col18 | col19 | col20 | col21 | col22 | col23 | col24 | col25 | col26 | col27 | col28 | col29 | col30 | col31 | col32 | col33 | col34 | col35 | col36 | col37 | col38 | col39 | col40 | col41 | col42 | col43 | col44 | col45 | col46 | col47 | col48 | col49 | ... | col3756 | col3757 | col3758 | col3759 | col3760 | col3761 | col3762 | col3763 | col3764 | col3765 | col3766 | col3767 | col3768 | col3769 | col3770 | col3771 | col3772 | col3773 | col3774 | col3775 | col3776 | col3777 | col3778 | col3779 | col3780 | col3781 | col3782 | col3783 | col3784 | col3785 | col3786 | col3787 | col3788 | col3789 | col3790 | col3791 | col3792 | col3793 | col3794 | col3795 | col3796 | col3797 | col3798 | col3799 | col3800 | col3801 | col3802 | col3803 | col3804 | col3805 | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 1 | 0 | 4.059 | 0.630 | 0 | 3.246 | 0.568 | 4.378 | 0.006 | 11 | 28.335 | 0 | 0 | 0 | 41.672 | 0.0 | 0.788 | 0 | 0.233 | 0 | 18.268 | -4.015 | 1.521 | -0.010 | 0.811 | 9.889 | 0 | 3.377 | 0.713 | 2.889 | 113.603 | 227.409 | 0 | 0 | 74.920 | 1 | 7.455 | 0 | 0.382 | 0 | 0 | 14.455 | 0 | 0 | 1.158 | 0 | 2.1272 | 0 | 25.201 | 0.204 | ... | 0.445 | 0 | 1.205 | 0 | 0.980 | 0 | 0 | 0.058 | 0 | 0 | 0 | 9.826 | 0 | 4 | 1.415 | 2.859 | 0.038 | 0.162 | 0 | 7 | 51.813 | 1.512 | 0 | 0 | 50.589 | 1.508 | 334.789 | 0 | 49.275 | 0.148 | 249.745 | 0 | 4 | 0 | 0.098 | 0 | 7.545 | 24.234 | 3.806 | 18.660 | 0.660 | 0 | 0.0 | 0.111 | 0.000 | 10.120 | 0 | 2.510 | 0.998 | 0 |
| 1 | 2 | 0 | 3.769 | 0.811 | 10 | 1.772 | 0.754 | 4.239 | 0.029 | 5 | 31.536 | 0 | 0 | 0 | 45.698 | 0.0 | 0.831 | 0 | 0.139 | 0 | 18.568 | -3.692 | 2.391 | 0.169 | 0.790 | 10.491 | 0 | 4.274 | 0.831 | 3.778 | 140.114 | 201.556 | 0 | 0 | 89.092 | 1 | 5.098 | 0 | 0.362 | 0 | 0 | 16.937 | 0 | 0 | 0.804 | 0 | 1.7676 | 0 | 49.907 | 0.196 | ... | 0.717 | 0 | 1.099 | 0 | 0.854 | 0 | 0 | 0.050 | 0 | 0 | 0 | 10.487 | 1 | 3 | 1.395 | 3.161 | 0.029 | 0.146 | 0 | 10 | 54.695 | 1.559 | 0 | 0 | 40.449 | 1.319 | 497.540 | 0 | 103.740 | 0.172 | 259.934 | 0 | 1 | 0 | 0.087 | 0 | 7.283 | 98.769 | 3.859 | 24.686 | 0.872 | 0 | 0.0 | 0.143 | 15.716 | 15.183 | 0 | 1.257 | 0.997 | 0 |
| 2 | 3 | 0 | 4.685 | 0.803 | 0 | 24.748 | 0.779 | 3.976 | 0.093 | 23 | 48.506 | 0 | 0 | 0 | 64.215 | 0.0 | 0.657 | 0 | 0.102 | 0 | 22.228 | -8.018 | 1.283 | 0.288 | 1.170 | 12.055 | 0 | 30.181 | 1.082 | 4.444 | 210.463 | 647.258 | 0 | 0 | 98.589 | 0 | 13.566 | 0 | 1.480 | 0 | 0 | 38.735 | 0 | 0 | 0.795 | 0 | 2.2929 | 0 | 17.177 | 0.160 | ... | 0.705 | 0 | 1.281 | 0 | 1.411 | 0 | 0 | 0.028 | 0 | 1 | 0 | 13.227 | 0 | 3 | 1.405 | 5.403 | 0.027 | 0.095 | 0 | 9 | 84.027 | 1.535 | 1 | 0 | 234.562 | 1.769 | 511.935 | 0 | 133.897 | 0.274 | 460.463 | 0 | 6 | 1 | 0.056 | 0 | 8.620 | 53.510 | 3.918 | 52.087 | 1.719 | 0 | 0.0 | 0.114 | 72.896 | 33.939 | 0 | 2.911 | 0.998 | 0 |
| 3 | 4 | 0 | 4.358 | 0.815 | 0 | 27.402 | 0.635 | 4.736 | 0.057 | 13 | 41.048 | 0 | 0 | 0 | 60.590 | 0.0 | 0.452 | 0 | 0.198 | 0 | 21.364 | -5.882 | 3.199 | 0.008 | 1.153 | 11.366 | 0 | 21.399 | 0.925 | 5.556 | 218.935 | 429.706 | 0 | 0 | 107.980 | 0 | 11.213 | 0 | 0.934 | 0 | 0 | 32.207 | 0 | 0 | 1.259 | 0 | 1.7689 | 0 | 30.247 | 0.171 | ... | 0.722 | 0 | 1.356 | 0 | 1.413 | 0 | 1 | 0.043 | 0 | 0 | 1 | 12.143 | 0 | 10 | 1.415 | 4.540 | 0.025 | 0.125 | 0 | 3 | 74.286 | 1.550 | 1 | 0 | 145.934 | 1.565 | 549.838 | 0 | 78.804 | 0.224 | 404.963 | 0 | 10 | 1 | 0.084 | 0 | 8.187 | 66.976 | 4.064 | 39.221 | 1.382 | 0 | 0.0 | 0.098 | 29.938 | 25.532 | 0 | 4.687 | 0.997 | 3 |
| 4 | 6 | 0 | 4.010 | 0.785 | 3 | 6.141 | 0.612 | 4.429 | -0.198 | 5 | 32.144 | 0 | 0 | 0 | 42.421 | 0.0 | 0.432 | 0 | 0.159 | 0 | 18.945 | -4.199 | 2.718 | 0.078 | 0.829 | 10.708 | 0 | 6.514 | 0.806 | 3.333 | 157.287 | 247.354 | 0 | 0 | 83.092 | 1 | 7.441 | 0 | 0.430 | 0 | 0 | 18.744 | 0 | 0 | 1.226 | 0 | 2.3440 | 0 | 40.662 | 0.196 | ... | 0.677 | 0 | 1.055 | 0 | 1.477 | 0 | 0 | 0.052 | 0 | 0 | 0 | 11.087 | 0 | 5 | 1.408 | 3.147 | 0.044 | 0.158 | 0 | 3 | 54.075 | 1.490 | 0 | 0 | 55.851 | 1.321 | 468.157 | 0 | 176.282 | 0.214 | 233.211 | 0 | 5 | 0 | 0.053 | 0 | 7.527 | 80.763 | 3.997 | 22.757 | 1.017 | 0 | 0.0 | 0.115 | 5.108 | 15.347 | 0 | 3.102 | 0.997 | 1 |
5 rows × 3806 columns
ans = model.predict(df_test)
s = pd.Series(ans)
df_sub = pd.read_csv("./sample_submit.csv",header=None)
df_sub.shape
(13732, 2)
df_sub2 = df_sub.iloc[:,0]
df_sub2.head(10)
0 1
1 2
2 3
3 4
4 6
5 7
6 10
7 11
8 13
9 16
Name: 0, dtype: int64
ans_pd = pd.concat([df_sub2, s],axis=1)
ans_pd.head(10)
| 0 | 0 | |
|---|---|---|
| 0 | 1 | 1.717480 |
| 1 | 2 | 2.562437 |
| 2 | 3 | 2.395703 |
| 3 | 4 | 1.505853 |
| 4 | 6 | 2.699922 |
| 5 | 7 | 2.213568 |
| 6 | 10 | 1.872223 |
| 7 | 11 | 2.646182 |
| 8 | 13 | 2.544475 |
| 9 | 16 | 2.117270 |
open('./submit5.csv', 'w')
pass
ans_pd .to_csv("./submit5.csv",index=False, header=False)