当前位置:首页 > 文章列表 > Golang > Go问答 > 从 Python ctypes 调用 Go 字符串函数会导致段错误

从 Python ctypes 调用 Go 字符串函数会导致段错误

来源:stackoverflow 2024-04-11 12:36:34 0浏览 收藏

IT行业相对于一般传统行业,发展更新速度更快,一旦停止了学习,很快就会被行业所淘汰。所以我们需要踏踏实实的不断学习,精进自己的技术,尤其是初学者。今天golang学习网给大家整理了《从 Python ctypes 调用 Go 字符串函数会导致段错误》,聊聊,我们一起来看看吧!

问题内容

我有一个名为 test.go 的模块,其中包含两个接受字符串类型的简单 go 函数:

package main

import (
  "fmt"
  "c"
)

//export testconcat
func testconcat(testarg string, testarg2 string) (string) {
  retval := testarg + testarg2
  return retval
}

//export testhello
func testhello(testarg string) {
  fmt.println("%v\n", testarg)
}


func main(){}

我使用 go build -o test.so -buildmode=c-shared test.go 将其编译为共享库

然后我有一个名为 test.py 的 python 模块

import ctypes

from ctypes import cdll


test_strings = [
    "teststring1",
    "teststring2"
]

if __name__ == '__main__':
    lib = cdll.loadlibrary("./test.so")
    lib.testconcat.argtypes = [ctypes.c_wchar_p, ctypes.c_wchar_p]
    lib.testhello.argtypes = [ctypes.c_wchar_p]
    for test_string in test_strings:
        print(
            lib.testconcat("hello", test_string)
        )
        lib.testhello(test_string)

然后我运行 test.py 并得到一个令人讨厌的段错误

runtime: out of memory: cannot allocate 279362762964992-byte block (66781184 in use)
fatal error: out of memory

我尝试将参数包装在 ctypes.c_wchar_p 中,但无济于事。

我在这里做错了什么?具体来说,如何与 python 中接受字符串参数的 go 函数进行交互?


解决方案


go 的 string 类型实际上类似于

type string {
    ptr *byte
    size int
}

这就是 test{hello|concat} 实际期望的——不是一对指针,而是一对 struct 类型的值。
换句话说,cgo 执行了足够的魔法来网关调用从 go 到 c 并返回,但它不执行值的自动转换。

您有两个选择:

  • 如果可能,请从您的 ctypes 绑定中显式使用此内容。
    编译包时,cgo 会生成一个头文件,其中包含表示 go 字符串的结构体的 c 定义;您可以立即使用它。

  • 使导出到 c 的函数与 c 的“类型系统”兼容。
    为此,cgo提供helper functions C.CString and C.GoString。
    基本上,您可以像这样定义 api:

    func TestHello(a, b *C.char) *C.char {
        testArg1, testArg2 := C.GoString(a), C.GoString(b)
        return C.CString(testArg + TestArg2)
    }
    

    请注意这里的一些注意事项:

    • 这两个助手都会复制其参数的内存,因此上面的愚蠢示例可以正常工作,但它会首先复制 a 和 b 指向的内存块,然后消耗两倍的内存来生成连接的字符串然后再次复制结果字符串的内存以生成返回的指针。
      iow,如果您尝试将 go 代码的一些大块导出到 c,这样这些分配与该块所做的任何事情相比都相形见绌,那么这种方法就很好。
    • 使用 *c.char 与 c 中的 *char 相同,因此字符串预计以 nul 结尾;如果不是,请使用 c.gostringn。
    • 由 c.cstring 分配的每个内存块都必须通过调用 c.free 来释放。这里有一个转折: c.free 基本上是一个薄垫片,用于从 libc 中的链接调用 free() ,因此,如果您可以保证完整的产品(代码完全加载到内存中并使用动态链接器(相互)链接)仅链接了 libc 的单个副本,您可以从 go 代码中调用 c.cstring 生成的内存块上的非 go 代码中调用 free() 。

更多一些随机指针:

  • 我不太熟悉python的ctypes,但我推测使用ctypes.c_wchar_p是不正确的:在c(和c++,fwiw)中,wchar_t是一种表示单个固定大小的类型 em>“宽字符”,通常是 UCS-2/UTF-16 代码点,go 的字符串不是由这些组成的——它们可能包含任意字节,当它们用于包含 unicode 文本时,它们会被编码使用 UTF-8,这是一种多字节编码(单个 unicode 代码点可以由字符串中的 1 到 4 个字节表示)。
    无论哪种情况,wchar_t 都不能用于 utf-8(实际上是 many seasoned devs beleive it's an abomination)。
  • 在开始此项目之前,请完整地阅读 the docs on cmd/cgo。真的,请这样做!

理论要掌握,实操不能落!以上关于《从 Python ctypes 调用 Go 字符串函数会导致段错误》的详细介绍,大家都掌握了吧!如果想要继续提升自己的能力,那么就来关注golang学习网公众号吧!

版本声明
本文转载于:stackoverflow 如有侵犯,请联系study_golang@163.com删除
接收者类型的方法集接收者类型的方法集
上一篇
接收者类型的方法集
如何将科学计数法字符串转换为big.Int?
下一篇
如何将科学计数法字符串转换为big.Int?
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • PubMedQA数据集详解:生物医学问答基准、功能与应用指南
    PubMedQA
    深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
    343次使用
  • H2O EvalGPT:开源LLM大模型评估与排行榜工具
    H2O EvalGPT
    H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
    403次使用
  • LMArena是什么?伯克利AI模型评估平台使用指南与功能解析
    LMArena
    LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
    402次使用
  • 斯坦福HELM:大语言模型Holistic Evaluation整体评估框架详解
    HELM
    深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
    362次使用
  • MMBench详解:多模态大模型基准测试、功能特点与使用指南
    MMBench
    MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
    184次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议 和 隐私政策
返回登录
  • 重置密码