当前位置:

首页 > 编程开发 > Pandas日期时间转换与格式化技巧

Pandas日期时间转换与格式化技巧

本文详细介绍了如何在PandasDataFrame中高效、准确地将日期时间字符串转换为datetime对象。重点讲解了使用pd.to_datetime()函数处理复杂日期时间格式(如包含毫秒)的方法,并强调了正确格式化字符串(特别是%f用于毫秒)的重要性,以避免常见的类型转换错误。文章还提供了示例代码和最佳实践,确保数据转换的准确性和健壮性。

本文目录

    Pandas中日期时间字符串的正确转换与格式化

    本文详细介绍了如何在Pandas DataFrame中高效、准确地将日期时间字符串转换为datetime对象。重点讲解了使用`pd.to_datetime()`函数处理复杂日期时间格式(如包含毫秒)的方法,并强调了正确格式化字符串(特别是`%f`用于毫秒)的重要性,以避免常见的类型转换错误。文章还提供了示例代码和最佳实践,确保数据转换的准确性和健壮性。

    在数据分析和处理中,将字符串形式的日期时间数据转换为可操作的datetime对象是常见的任务。尤其在使用Pandas DataFrame时,这种转换需要特别注意格式匹配和方法选择,以避免诸如“'str' object cannot be interpreted as an integer”之类的类型错误。本教程将深入探讨如何利用Pandas的强大功能,特别是pd.to_datetime(),来有效处理日期时间字符串转换。

    挑战:日期时间字符串转换中的常见陷阱

    当我们从CSV或其他数据源中读取日期时间数据时,它们通常以字符串形式存在。例如,一个常见的日期时间格式可能是 YY:MM:DD HH:MM:SS:MS,如 23:09:28 16:03:40:7。如果尝试使用Python标准库中的datetime.datetime函数直接处理DataFrame中的一列,并使用不完整的格式字符串(例如 %y:%m:%d %H:%M:%S 缺少毫秒部分),则很容易遇到以下问题:

    1. 格式字符串不匹配:如果字符串中包含毫秒(如 :7),而格式字符串中没有对应的 %f(微秒),则转换会失败。
    2. 类型错误:当尝试将一个包含非数字字符的字符串部分解释为整数时,Python会抛出 TypeError: 'str' object cannot be interpreted as an integer。这通常发生在格式字符串与实际数据不符,或者尝试将整个字符串传递给期望整数参数的位置时。
    3. 效率问题:对DataFrame中的每一行使用循环和datetime.datetime进行转换效率低下,不符合Pandas的向量化操作原则。

    解决方案:使用 pd.to_datetime() 进行高效转换

    Pandas提供了专门用于日期时间转换的函数 pd.to_datetime(),它能够高效地处理整个DataFrame列,并提供了灵活的格式化选项。

    1. 核心函数:pd.to_datetime()

    pd.to_datetime() 是将字符串、数字或datetime对象转换为Pandas datetime对象的首选方法。它具有以下优点:

    • 向量化操作:直接应用于整个Series或DataFrame列,性能远超逐行循环。
    • 智能推断:在不指定format参数时,可以尝试自动推断多种日期时间格式。
    • 错误处理:提供 errors 参数来控制如何处理无法解析的值。
    • 时区支持:可以方便地进行时区转换。

    2. 正确指定格式字符串

    解决日期时间转换问题的关键在于精确匹配日期时间字符串的格式。对于 YY:MM:DD HH:MM:SS:MS 这样的格式,其中 MS 代表毫秒,我们需要使用 %f 来匹配微秒(Python的 datetime 和 Pandas 的 to_datetime 都使用 %f 来表示微秒,即使输入是毫秒,也会被解析为微秒,例如 7 会被解析为 7000 微秒)。

    下表列出了一些常用的格式代码:

    代码含义示例
    %y两位数年份23
    %Y四位数年份2023
    %m月份(01-12)09
    %d日期(01-31)28
    %H小时(24小时制,00-23)16
    %M分钟(00-59)03
    %S秒(00-59)40
    %f微秒(000000-999999)7000 (对于输入7)

    因此,对于 23:09:28 16:03:40:7 这样的字符串,正确的格式字符串应该是 "%y:%m:%d %H:%M:%S:%f"。

    3. 示例代码

    假设我们有一个Pandas DataFrame df,其中包含一个名为 RunStartTime 的列,其数据格式如前所述。

    首先,我们创建一个示例DataFrame:

    import pandas as pd
    import numpy as np
    
    # 创建一个示例DataFrame
    data = {'RunStartTime': ['23:09:28 16:03:40:7', '23:10:01 09:15:22:123', '24:01:15 23:59:59:999']}
    df = pd.DataFrame(data)
    
    print("原始DataFrame:")
    print(df)
    print("\nRunStartTime 列的数据类型:", df['RunStartTime'].dtype)

    输出:

    原始DataFrame:
               RunStartTime
    0   23:09:28 16:03:40:7
    1  23:10:01 09:15:22:123
    2  24:01:15 23:59:59:999
    
    RunStartTime 列的数据类型: object

    现在,使用 pd.to_datetime() 进行转换,并指定正确的格式字符串:

    # 使用 pd.to_datetime() 转换日期时间字符串
    # 注意:格式字符串中 %y 代表两位数年份,%f 代表微秒
    df['RunStartTime_dt'] = pd.to_datetime(df['RunStartTime'], format="%y:%m:%d %H:%M:%S:%f")
    
    print("\n转换后的DataFrame:")
    print(df)
    print("\nRunStartTime_dt 列的数据类型:", df['RunStartTime_dt'].dtype)

    输出:

    转换后的DataFrame:
               RunStartTime       RunStartTime_dt
    0   23:09:28 16:03:40:7 2023-09-28 16:03:40.000007
    1  23:10:01 09:15:22:123 2023-10-01 09:15:22.000123
    2  24:01:15 23:59:59:999 2020-01-15 23:59:59.000999
    
    RunStartTime_dt 列的数据类型: datetime64[ns]

    可以看到,RunStartTime_dt 列已成功转换为 datetime64[ns] 类型,并且毫秒部分也得到了正确解析。

    4. 仅获取日期部分

    如果只需要日期部分,而不需要时间信息,可以使用 .dt.normalize() 方法。这个方法会将时间部分设置为午夜(00:00:00)。

    # 仅获取日期部分
    df['date_only'] = df['RunStartTime_dt'].dt.normalize()
    
    print("\n仅包含日期部分的DataFrame:")
    print(df)
    print("\ndate_only 列的数据类型:", df['date_only'].dtype)

    输出:

    仅包含日期部分的DataFrame:
               RunStartTime       RunStartTime_dt  date_only
    0   23:09:28 16:03:40:7 2023-09-28 16:03:40.000007 2023-09-28
    1  23:10:01 09:15:22:123 2023-10-01 09:15:22.000123 2023-10-01
    2  24:01:15 23:59:59:999 2020-01-15 23:59:59.000999 2020-01-15
    
    date_only 列的数据类型: datetime64[ns]

    虽然 date_only 列的数据类型仍然是 datetime64[ns],但其时间部分已被归一化为 00:00:00。

    注意事项与最佳实践

    1. 处理无法解析的值:如果数据中可能存在无法解析的日期时间字符串,可以使用 errors 参数:

      • errors='raise' (默认):遇到错误时抛出异常。
      • errors='coerce':将无法解析的值转换为 NaT (Not a Time)。这在处理脏数据时非常有用。
      • errors='ignore':保留原始无法解析的值。
      df_err = pd.DataFrame({'time_str': ['23:09:28 16:03:40:7', 'invalid_date', '24:01:15 23:59:59:999']})
      df_err['parsed_time'] = pd.to_datetime(df_err['time_str'], format="%y:%m:%d %H:%M:%S:%f", errors='coerce')
      print("\n处理错误值的DataFrame:")
      print(df_err)

      输出:

      处理错误值的DataFrame:
                time_str               parsed_time
      0  23:09:28 16:03:40:7 2023-09-28 16:03:40.000007
      1         invalid_date                      NaT
      2  24:01:15 23:59:59:999 2020-01-15 23:59:59.000999
    2. 性能优化:

      • 如果日期时间格式是固定的,始终指定 format 参数。这会显著提高解析速度,因为Pandas不需要尝试多种格式进行推断。
      • 如果日期时间格式不固定但数量有限且有规律,可以尝试设置 infer_datetime_format=True。这会告诉Pandas尝试推断格式,并且在成功推断后,对于后续的相同格式字符串会加速解析。但在极端情况下,如果格式非常混乱,它可能会比指定 format 慢。
    3. 提取日期时间组件:一旦列被转换为 datetime64[ns] 类型,就可以使用 .dt 访问器来方便地提取年、月、日、小时等组件:

      print("\n提取日期时间组件:")
      print("年份:", df['RunStartTime_dt'].dt.year)
      print("月份:", df['RunStartTime_dt'].dt.month)
      print("日期:", df['RunStartTime_dt'].dt.day)
      print("小时:", df['RunStartTime_dt'].dt.hour)
      print("毫秒 (原始微秒除以1000):", df['RunStartTime_dt'].dt.microsecond / 1000)

      输出:

      提取日期时间组件:
      年份: 0    2023
      1    2023
      2    2020
      Name: RunStartTime_dt, dtype: int64
      月份: 0    9
      1    10
      2     1
      Name: RunStartTime_dt, dtype: int64
      日期: 0    28
      1     1
      2    15
      Name: RunStartTime_dt, dtype: int64
      小时: 0    16
      1     9
      2    23
      Name: RunStartTime_dt, dtype: int64
      毫秒 (原始微秒除以1000): 0      7.0
      1    123.0
      2    999.0
      Name: RunStartTime_dt, dtype: float64

    总结

    在Pandas中处理日期时间字符串时,pd.to_datetime() 是一个不可或缺的工具。通过正确理解和使用 format 参数,特别是针对包含毫秒的字符串使用 %f,可以高效且准确地将字符串数据转换为可操作的datetime对象。同时,利用 errors='coerce' 进行健壮性处理,以及 .dt 访问器提取日期时间组件,将极大地提升数据清洗和分析的效率。遵循这些最佳实践,可以避免常见的转换错误,并确保日期时间数据的完整性和可用性。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发
    相关文章 更多
    QQ影音怎么加速播放视频课程
    QQ影音怎么加速播放视频课程

    播放时右键选播放速度,或点控制条倍速,1.25 到 1.5 倍看课最舒服;公式代码类内容别超过 1.25 倍。

    企业微信创建企业提示失败怎么办 实名与填写检查
    企业微信创建企业提示失败怎么办 实名与填写检查

    先看提示属于哪类:名称占用就加后缀,实名不一致就重填本人信息,证件不清晰就重拍。统一社会信用代码逐位核对,连续三次失败别改材料重投,直接联系客服人工核。

    Modern Web Guidance 的 legacy-scan 反转建议应该怎样判断?
    Modern Web Guidance 的 legacy-scan 反转建议应该怎样判断?

    说明源码提交对字符串、生成器和数组的识别边界,以及扫描命令与发行包核验限制。

    Codex 0.170.0 正式版的语音与连接更新,适用范围有哪些限制?
    Codex 0.170.0 正式版的语音与连接更新,适用范围有哪些限制?

    0.170.0 的语音更新限于终端通话协商能力的明确新增,同名工具服务器跨环境支持仍标注实验性质;连接部分则修复大请求回退、认证竞态和云端重连等具体问题。这份正式版公告不足以证明所有账户、所有客户端都已具备完整语音功能。

    Hy4 flash 三种权重怎么选,安装和授权要注意哪些条件?
    Hy4 flash 三种权重怎么选,安装和授权要注意哪些条件?

    了解Hy4 flash、FP8与base的适用任务,阅读官方安装及图文代码,并核对资源和MaaS许可条件。

    OpenAI Python SDK 3.55.0 升级看点:Live MCP 服务配置与预算接口变化
    OpenAI Python SDK 3.55.0 升级看点:Live MCP 服务配置与预算接口变化

    OpenAI Python SDK 3.55.0 升级看点:Live MCP 服务配置与预算接口变化。说明已核实的更新范围、类型兼容性和本地版本确认方法。

    OpenAI Java SDK 4.108.0 的两项新增能力适合哪些项目?
    OpenAI Java SDK 4.108.0 的两项新增能力适合哪些项目?

    OpenAI Java SDK 4.108.0 面向 Live MCP 工具接入与 Managed Agents 预算状态处理,说明新增模型、事件含义、正式发布范围和适用限制。

    Free Claude Code 6.19.37 如何兼顾网页搜索与普通工具调用?
    Free Claude Code 6.19.37 如何兼顾网页搜索与普通工具调用?

    Free Claude Code 6.19.37 在自动搜索时保留客户端工具及选择条件,代理执行搜索后仍返回普通调用。说明适用场景、历史信息保留、请求约束与第三方项目的版本边界。

    Google GenAI Go SDK 1.78.0 的 v1beta 配置优先级怎样判断?
    Google GenAI Go SDK 1.78.0 的 v1beta 配置优先级怎样判断?

    Google GenAI Go SDK 1.78.0 将 Gemini Developer API 默认改为 v1,可用 HTTPOptions.APIVersion 或环境变量保留 v1beta,Vertex AI 默认值不变。

    Google GenAI SDK 3.5.0实时交互值得哪些项目升级评估?
    Google GenAI SDK 3.5.0实时交互值得哪些项目升级评估?

    解释实验性实时支持、环境检查与生产评估中需要验证的条件。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。