orkhon: 机器学习框架和运行时
#Python #ml
Orkhon是用于机器学习的Rust框架,用于运行/使用用Python编写的推理/预测代码,冻结模型和处理未知(unseen)数据。
「异步系列文章」Part 2: Async/Await语法之外的挑战 : 取消(Cancellation)
#async #await
在这篇文章里,作者讨论了如果在应用中取消正在进行的异步任务,这非常有用,主要是因为对它们的结果不再有任何兴趣,所以继续操作就会成为资源占用。比如在超时范围内没有收到响应并且应该将错误发送回用户,则应该取消子操作。
先来看看在同步中如何取消任务:
例如
在C#中,使用CancellationToken类型的变量传递给每个方法,该方法是可取消工作流的一部分。这些方法可以不时地检查CancellationToken.IsCancellationRequested,以便发现父任务是否已请求取消。在这种情况下,子任务可以提前返回(例如通过抛出异常)。
其他语言是这种方法的变体:
Go使用Context结构将取消请求传播到子任务。在Go中,取消请求通过Channel发出信号,因为它可以轻松地使程序等待取消请求或来自其他来源的状态更新。
Java利用线程局部中断状态。如果一个线程获得.interrupted()
,那么如果不处理异常,某些操作将抛出并强制返回子任务。这可以被视为某种线程局部的CancellationToken,它在方法之间没有明确地传递。它具有不能在异步上下文中使用的缺点。
这些行为具有一组特定的共性:
- 取消始终只是通过取消请求来完成,它无法执行,即使请求已发出,子进程也可能运行一段时间。
- 所有方法都可以观察是否发生了取消,如果子方法受到影响,并且能够对其做出反应
在async/await异步中如何取消:
Rust之外的语言,和同步取消任务的模式类似:
- 通过专用参数或隐式任务本地参数请求取消
- 需要方法来观察取消状态。
- 即使取消后,异步方法也会完成。
比如,C# async Tasks
通过CancellationToken发出取消信号。许多.NET
core框架函数支持此参数以传播取消请求。Kotlin协程标准库识别取消请求并允许操作在取消时提前中止。Javascript没有取消的标准化类型,由于异步Javascript函数将始终运行完成,因此该机制还需要遵循上述所描述的模式。C++
协程可以使用cppcoro库中定义的CancellationToken。
Rust对Cancellation的支持与其他支持async/await的语言有所不同。
- 只需删除表示异步操作的Future即可触发取消
- 不需要方法来转发取消请求或取消能力(例如,通过传递CancellationToken)
- 取消是同步的 - 因为drop()是同步的
- 取消不包括单独的取消请求并等待操作完成的步骤。只有一个取消/删除步骤。
- 取消被强制执行 - 子方法不能忽视或推迟取消
这些特性有优点也有缺点:
- 取消任务将变得简单
- 主要缺点是底层操作必须支持同步取消,比如处理操作系统底层IO的时候,会比较麻烦。但该文章中也给出了一些解决办法。
更多内容请查看原文。
异步await语法最终确定
#await
官方核心成员无船大佬在博客上披露,异步await语法的最终提议是继续推进后缀关键字语法: future.await
。另外无船大佬还针对Rust语言设计给出了两点说明:
- Rust语言很少有绝对的情况出现。除了一些必须要做的事,比如类型系统必须健壮之外,其他绝大多数的问题都是权衡问题。也就是说,需要权衡不同种类的方案,选择团队认为优先的道路。这样做必然会带来很多正面或负面的想法,所以我们需要避免非黑即白的二分思想。
- 点关键字,只是一个方案的草图,并不带有某种角度的暗示或保证。它仍然需要走RFC流程。
- 引入
@await
语法,也是因为权衡成本的问题,因为引入新的符号会带来成本。
下一步:
准备在Rust 1.37稳定版中引入async/await的最小稳定化版本, 1.37将于8月中旬发布,并于7月4日发布。这不会是async/await功能的结束 - 最小功能将会有很多扩展 - 但对于每个想要使用Rust进行高性能网络服务的人来说,这将是一个重要的里程碑。
metrics: 高性能metrics库
#metrics
基于trait抽象,提供稳定API,支持Prometheus
Rust Audio论坛 - 讨论和询问有关Rust中音频开发的问题的地方
#audio
leg: 用于美化命令行输出的库
#cli
From 日报小组 @Chaos
日报订阅地址:
独立日报订阅地址:
社区学习交流平台订阅:
评论区
写评论还没有评论