当前位置：首页 > 文章列表 > 科技周边 > 人工智能 > JS 的 AI 时代来了！

JS 的 AI 时代来了！

来源：51CTO.COM 2024-04-26 16:51:37 0浏览收藏

知识点掌握了，还需要不断练习才能熟练运用。下面golang学习网给大家带来一个科技周边开发实战，手把手教大家学习《JS 的 AI 时代来了！》，在实现功能的过程中也带大家重新温习相关知识点，温故而知新，回头看看说不定又有不一样的感悟！

JS-Torch 简介

JS-Torch是一种深度学习JavaScript库，其语法与PyTorch非常相似。它包含一个功能齐全的张量对象（可与跟踪梯度），深度学习层和函数，以及一个自动微分引擎。JS-Torch适用于在JavaScript中进行深度学习研究，并提供了许多方便的工具和函数来加速深度学习开发。

JS 的 AI 时代来了！图片

PyTorch是一个开源的深度学习框架，由Meta的研究团队开发和维护。它提供了丰富的工具和库，用于构建和训练神经网络模型。PyTorch的设计理念是简单和灵活，易于使用，它的动态计算图特性使得模型构建更加直观和灵活，同时也提高了模型构建和调试的效率。PyTorch的动态计算图特性也使得其模型构建更加直观，便于调试和优化。此外，PyTorch还具有良好的可扩展性和运行效率，使得其在深度学习领域广受欢迎和应用。

你可以通过 npm 或 pnpm 来安装 js-pytorch:

npm install js-pytorchpnpm add js-pytorch

或者在线体验 js-pytorch 提供的 Demo[3]：

JS 的 AI 时代来了！图片

https://eduardoleao052.github.io/js-torch/assets/demo/demo.html

JS-Torch 已支持的功能

目前 JS-Torch 已经支持 Add、Subtract、Multiply、Divide 等张量操作，同时也支持Linear、MultiHeadSelfAttention、ReLU 和 LayerNorm 等常用的深度学习层。

Tensor Operations

Add
Subtract
Multiply
Divide
Matrix Multiply
Power
Square Root
Exponentiate
Log
Sum
Mean
Variance
Transpose
At
MaskedFill
Reshape

Deep Learning Layers

nn.Linear
nn.MultiHeadSelfAttention
nn.FullyConnected
nn.Block
nn.Embedding
nn.PositionalEmbedding
nn.ReLU
nn.Softmax
nn.Dropout
nn.LayerNorm
nn.CrossEntropyLoss

JS-Torch 使用示例

Simple Autograd

import { torch } from "js-pytorch";// Instantiate Tensors:let x = torch.randn([8, 4, 5]);let w = torch.randn([8, 5, 4], (requires_grad = true));let b = torch.tensor([0.2, 0.5, 0.1, 0.0], (requires_grad = true));// Make calculations:let out = torch.matmul(x, w);out = torch.add(out, b);// Compute gradients on whole graph:out.backward();// Get gradients from specific Tensors:console.log(w.grad);console.log(b.grad);

Complex Autograd (Transformer)

import { torch } from "js-pytorch";const nn = torch.nn;class Transformer extends nn.Module {constructor(vocab_size, hidden_size, n_timesteps, n_heads, p) {super();// Instantiate Transformer's Layers:this.embed = new nn.Embedding(vocab_size, hidden_size);this.pos_embed = new nn.PositionalEmbedding(n_timesteps, hidden_size);this.b1 = new nn.Block(hidden_size,hidden_size,n_heads,n_timesteps,(dropout_p = p));this.b2 = new nn.Block(hidden_size,hidden_size,n_heads,n_timesteps,(dropout_p = p));this.ln = new nn.LayerNorm(hidden_size);this.linear = new nn.Linear(hidden_size, vocab_size);}forward(x) {let z;z = torch.add(this.embed.forward(x), this.pos_embed.forward(x));z = this.b1.forward(z);z = this.b2.forward(z);z = this.ln.forward(z);z = this.linear.forward(z);return z;}}// Instantiate your custom nn.Module:const model = new Transformer(vocab_size,hidden_size,n_timesteps,n_heads,dropout_p);// Define loss function and optimizer:const loss_func = new nn.CrossEntropyLoss();const optimizer = new optim.Adam(model.parameters(), (lr = 5e-3), (reg = 0));// Instantiate sample input and output:let x = torch.randint(0, vocab_size, [batch_size, n_timesteps, 1]);let y = torch.randint(0, vocab_size, [batch_size, n_timesteps]);let loss;// Training Loop:for (let i = 0; i < 40; i++) {// Forward pass through the Transformer:let z = model.forward(x);// Get loss:loss = loss_func.forward(z, y);// Backpropagate the loss using torch.tensor's backward() method:loss.backward();// Update the weights:optimizer.step();// Reset the gradients to zero after each training step:optimizer.zero_grad();}

有了 JS-Torch 之后，在 Node.js、Deno 等 JS Runtime 上跑 AI 应用的日子越来越近了。当然，JS-Torch 要推广起来，它还需要解决一个很重要的问题，即 GPU 加速。目前已有相关的讨论，如果你感兴趣的话，可以进一步阅读相关内容：GPU Support[4] 。

参考资料

[1]JS-Torch: https://github.com/eduardoleao052/js-torch

[2]PyTorch: https://pytorch.org/

[3]Demo: https://eduardoleao052.github.io/js-torch/assets/demo/demo.html

[4]GPU Support: https://github.com/eduardoleao052/js-torch/issues/1

今天关于《JS 的 AI 时代来了！》的内容就介绍到这里了，是不是学起来一目了然！想要了解更多关于Node.js,JS,AI的内容请关注golang学习网公众号！

Node.js JS AI

版本声明

本文转载于：51CTO.COM 如有侵犯，请联系study_golang@163.com删除