import numpy as np
import pandas as pd
import seaborn as sns
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import LabelEncoder
from sklearn.ensemble import RandomForestClassifier
from sklearn.metrics import accuracy_score, classification_report, confusion_matrix
import matplotlib.pyplot as plt

# Load the dataset
data = sns.load_dataset('titanic')

# Drop unnecessary columns
data = data.drop(['deck', 'embark_town', 'alive', 'who', 'adult_male', 'class'], axis=1)

# Handle missing values
data['age'] = data['age'].fillna(data['age'].median())
data['embarked'] = data['embarked'].fillna(data['embarked'].mode()[0])

# Encode categorical variables
encoder = LabelEncoder()
data['sex'] = encoder.fit_transform(data['sex'])
data['embarked'] = encoder.fit_transform(data['embarked'])

# Split the dataset into training and testing sets
X = data.drop('survived', axis=1)
y = data['survived']
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)

# 追加のハイパーパラメータを設定してランダムフォレスト分類器を作成
rf_clf = RandomForestClassifier(
    n_estimators=100,      # 決定木の数
    criterion='gini',      # 分割の品質を測定する関数（'gini'または'entropy'）
    max_depth=None,        # 決定木の最大の深さ（Noneは、すべての葉が純粋になるまでノードが展開されることを意味する）
    min_samples_split=2,   # 内部ノードを分割するために必要な最小限のサンプル数
    min_samples_leaf=1,    # 葉ノードに必要な最小限のサンプル数
    max_features='auto',   # 最適な分割を探す際に考慮する特徴量の数（'auto'、'sqrt'、'log2'、または整数）
    bootstrap=True,        # ツリーを構築するときにブートストラップを使うかとうか
    oob_score=False,       # oobサンプルを使用して一般化精度を推定するかどうか
    n_jobs=None,           # fitおよびpredictに並列実行するジョブの数（-1はすべてのプロセッサを使用することを意味する）
    random_state=42,       # ブートストラップと特徴量サンプリングのランダム性を制御する
    verbose=0,             # フィットおよび予測時の冗長性を制御する
    warm_start=False,      # 前回のfit呼び出しの解を再利用し、アンサンブルにさらに推定子を追加する
    class_weight=None      # クラスの重み（'balanced'またはNone）
)

# モデルのトレーニング
rf_clf.fit(X_train, y_train)

# テストセットで予測
y_pred = rf_clf.predict(X_test)

# モデルの評価
accuracy = accuracy_score(y_test, y_pred)
print(f"Accuracy: {accuracy:.2f}")
print("Classification Report:")
print(classification_report(y_test, y_pred))
print("Confusion Matrix:")
print(confusion_matrix(y_test, y_pred))

Accuracy: 0.78
Classification Report:
              precision    recall  f1-score   support

           0       0.80      0.83      0.81       157
           1       0.74      0.70      0.72       111

    accuracy                           0.78       268
   macro avg       0.77      0.77      0.77       268
weighted avg       0.77      0.78      0.78       268

Confusion Matrix:
[[130  27]
 [ 33  78]]

# Feature Importanceを計算する
importances = rf_clf.feature_importances_

# 重要性の高い順に特徴量をソートする
indices = np.argsort(importances)[::-1]

# 並び替えられた特徴量の名前を、ソートされたFeature Importanceに合わせて並べ替える
names = [X.columns[i] for i in indices]

# 棒グラフを作成する
plt.figure(figsize=(10, 5))
plt.title("Feature Importance")
plt.bar(range(X.shape[1]), importances[indices])

# 特徴量名をx軸のラベルとして追加
plt.xticks(range(X.shape[1]), names, rotation=90)

# プロットを表示する
plt.show()