Python Pandas 高级数据操作 Categorical 数据类型的使用

1、创建 Categorical 数据

pd.Categorical()函数用于将一个列表、数组或类似的序列转换为分类数据（categorical data）。分类数据是一种特殊的数据类型，用于表示具有固定数量可能值的变量，类似于枚举类型。通过将数据转换为 Categorical 类型，可以提高数据处理的效率，尤其是在进行分类分析或处理具有明确类别的数据时。

使用示例：

import pandas as pd

# 创建一个简单的列表
data = ['low', 'medium', 'high', 'medium', 'low']

# 使用pd.Categorical()创建分类数据
# 指定类别，并设置有序
cat_data = pd.Categorical(data, categories=['low', 'medium', 'high'], ordered=True)

print("有序分类数据:\n", cat_data)

# 创建一个DataFrame，使用指定的CategoricalDtype
df = pd.DataFrame({
    'Quality': pd.Categorical(data, categories=['low', 'medium', 'high'], ordered=True, dtype="category")
})

print("\nDataFrame:\n", df)

# 原始数据
data = ['cold', 'warm', 'hot', 'warm', 'cold', 'hot']

# 将数据转换为分类类型
# 指定类别，并设置为有序分类
temperature_category = pd.Categorical(data, categories=['cold', 'warm', 'hot'], ordered=True)

# 创建一个Categorical Series
temperature_series = pd.Series(temperature_category)

print("Categorical Series:\n", temperature_series)

# 检查Series的dtype
print("\nSeries dtype:", temperature_series.dtype)

# 示例：使用Categorical Series进行条件过滤
filtered_series = temperature_series[temperature_series > 'cold']
print("\nFiltered Series (items greater than 'cold'):\n", filtered_series)

2、将列转换为 Categorical

将列转换为分类类型（Categorical）是一个常见的数据操作，尤其是在数据预处理和内存优化方面非常有用。使用?astype('category')?将 DataFrame 或 Series 中的列转换为?Categorical?类型。

??使用示例：Python Pandas 高级数据操作 Categorical 数据类型的使用-CJavaPy

3、处理Categorical列中的缺失值

处理包含缺失值的 Categorical 列是一项常见的高级数据操作。Categorical?数据类型是 Pandas 用于表示分类数据的一种特殊类型。当处理这种类型的数据时，特别是当它们包含缺失值（通常表示为?NaN）时，需要谨慎处理。

?使用示例：Python Pandas 高级数据操作 Categorical 数据类型的使用-CJavaPy

4、使用Categorical列进行操作

Categorical?列支持大多数标准的?DataFrame?操作，包括分组、排序和汇总。使用?Categorical?类型可以进行更有效的内存使用和更快的计算，尤其是在数据集包含重复类别时。

import pandas as pd

# 创建分类
categories = ["A", "B", "C"]

# 创建 Categorical 列
data = pd.Categorical(["A", "B", "C", "A", "B"], categories=categories)

# 比较数据
print(data == "A")


# 索引数据
print(data[1])


# 统计数据
print(data.describe())


# 排序数据
print(data.sort_values())

# 对每个分类的计数
print(data.value_counts())

5、Categorical 数据的优势

当类别相对于数据量较少时，使用?Categorical?类型可以节省内存。某些操作在?Categorical?类型上执行得更快，如排序和分组（groupby）。Categorical?类型可以是有序的或无序的。有序的?Categorical?允许进行排序和比较操作。使用数值编码来表示每个类别，而不是存储重复的字符串。对大型数据集进行分组和聚合时，Categorical类型的性能显著优于对象类型。通过定义可能的类别集合，Categorical数据有助于保证数据完整性。使用Categorical数据类型使得数据分析更加方便和直观，特别是在处理具有自然顺序的类别数据时。

6、使用总结

当转换为?Categorical?类型时，所有不同的值都变成了类别。如果类别太多，可能不会节省内存。对于有序的?Categorical，需要明确指定类别的顺序。在?Categorical?类型的列中，只能使用定义的类别值。尝试使用未定义的类别将引发错误。

参考文档：Python Pandas 高级数据操作 Categorical 数据类型的使用-CJavaPy