Press "Enter" to skip to content

深度学习的 JavaScript 基础:矩阵和向量的表示

本站内容均来自兴趣收集,如不慎侵害的您的相关权益,请留言告知,我们将尽快删除.谢谢.

最近在读一本《基于浏览器的深度学习》,书比较薄,但是涉及的内容很多,因此在读的过程中不得不再查阅一些资料,以加深理解。我目前从事的本职工作就是浏览器研发,对于前端技术并不陌生。但是从前段时间开发微信小程序 识狗君 的过程来看,对JavaScript还是掌握得太少,特别是对一些前端框架以及一些比较新的JavaScript语法和编程模型,了解的不够。在修改tfjs-core源码时,就体会到这种痛苦。好吧,既然无法避开,那就正面刚吧。

 

与Java、C++这样的静态类型语言不同,JS中的变量似乎没有类型,在声明变量时不用指定变量类型。但实际上JS也有字符串、数字、布尔值、对象、数组、未定义等类型,是一种弱类型语言。在深度学习中,矩阵和向量是最基本的数据结构,而高效的矩阵和向量运算是深度学习计算中的关键。在C++中,数组可用于表示矩阵或向量,JS中也有这样的数据结构吗?

 

在JS中,提供了一种TypedArray的类,它是几种数组类型的统称:

 

Int8Array

 

Uint8Array

 

Uint8ClampedArray

 

Int16Array

 

Uint16Array

 

Int32Array

 

Uint32Array

 

Float32Array

 

Float64Array

 

前缀中的U表示无符号的值。Uint8Array和Uint8ClampedArray都是保存0 ~ 255之间的值。如果保存的值大于256,Uint8Array会截掉溢出位,而Uint8ClampedArray对值进行限制,大于255的值限定为255,小于0的值限定为0。例如:

 

var arr = new Uint8Array(4);
arr[0] = 256;
console.log(arr);  // [0, 0, 0, 0]
var arrc = new Uint8ClampedArray(4);
arrc[0] = 256;
arrc[1] = -12;
console.log(arrc);  // [256, 0, 0, 0]

 

在最新的JS规范中,还增加了 BigInt64Array 和 BigUint64Array 两种类,但并非每个浏览器都支持,请谨慎使用。

 

TypedArray可以以类型安全的方式访问数据,而不会造成数据复制的开销。TypedArray使用上有些类似C++中的数组,可以通过 [] 运算符读取或写入值。但实际上TypedArray是类,提供了一种访问数组中每个元素的方法,其实际数据存储在ArrayBuffer中。

 

ArrayBuffer

 

ArrayBuffer代表内存之中的一段二进制数据,是存储数据的实际数据结构,但它不提供读取或写入数据的任何方式。如何解释这些存放的数据,取决于TypedArray或稍后要讲到的DataView。你可以通过不同的TypedArray访问ArrayBuffer,可以在ArrayBuffer上使用不同的TypedArray,如何解释二进制数据的任务被委托给TypedArray。

 

var buf = new ArrayBuffer(4);
var uint8 = new Uint8Array(buf);
var int16 = new Int16Array(buf);
uint8[0] = 1;
uint8[1] = 1;
console.log(uint8);  // [1, 1, 0, 0]
console.log(int16);  // [257, 0]

 

因为uint8和int16共享同一个底层ArrayBuffer,这样一个修改在两个TypedArray中都反映出来。TypedArray和ArrayBuffer通过避免冗余数据复制提供了一种访问内存数据的高效方法,实现了快速数据访问。

 

DataView

 

读取和写入ArrayBuffer数据的另一种方式是通过DataView,用TypedArray能做到的事情,一样可以用DataView完成。DataView在ArrayBuffer上提供了一个更低层次的接口,DataView不管理存储数据的类型。每次访问数据时,你需要知道存储的数据类型。

 

var buf = new ArrayBuffer(4);
var d = new DataView(buf);
d.setInt8(0, 10);
console.log(d.getInt8(0));  // 10

 

需要注意的是,在多字节整数存储上,存在“”和“小端”的不同,取决于机器的体系结构,这意味着内存中同样的一块内存数据,在不同体系结构的机器上,解释为不同的值。DataView提供了一种显示指定“大端”和“小端”的接口。

 

var buf = new ArrayBuffer(4);
new DataView(buf).setInt16(0, 127, true);  // 按小端保存
console.log(new Uint8Array(buf));  // [127, 0, 0, 0]
new DataView(buf).setInt16(0, 127, false);  // 按大端保存
console.log(new Uint8Array(buf));  // [0, 127, 0, 0]

 

通常情况下,我们无需关心大端和小端,但是如果存在数据在GPU和CPU之间传递,或者模型用于跨体系结构的机器上的情况时,就需要注意这个问题。

 

SharedArrayBuffer

 

深度学习的JavaScript基础:从callbacks到sync/await 这篇文章中,我们提到JS代码是以单线程执行的,但这种说法并非完全正确,因为在HTML5中引入一种新的线程机制web workers。但web workers与其他语言中使用的线程略有不同。默认情况下,它们不共享内存。

 

这也就意味着,如果你想和其他线程共享数据,那幺你就需要将数据从一个地方复制到另外一个地方。这是通过函数postMessage 完成的。postMessage 将所有输入的对象序列化,将其发送到另一个web worker,并将其反序列化并放入内存中。

 

一眼就可以看出,这种方式相当低效。某些情况下,我们需要更高效的并行策略,希望共享内存单元,ShareArrayBuffer正是为此而生。

 

通过 ShareArrayBuffer,web worker、不同线程可以在相同的内存块中读写数据。这也意味着你不再需要通过 postMessage 来在不同的线程中通信传递数据。不同的 web worker 都有获取/操作数据的权限。但是这也会带来一些问题,比如两个线程在同一时间对数据进行操作。这也是并发需要解决的问题之一。关于SharedArrayBuffer的并发是一个比较大的话题,这里先不展开讨论。

 

SharedArrayBuffer 顾名思义就是为线程间共享内存提供了一块内存缓冲区,你可以通过 postMessage 将线程 A 分配的 SharedArrayBuffer 发送给线程 B,然后两个线程就可以共同访问这块内存。

 

下面的代码通过创建 SharedArrayBuffer 来分配一块共享内存:

 

var sab = new SharedArrayBuffer(1024);  // 1KiB shared memory

 

通过 postMessage 发送给另外一个 Worker

 

w.postMessage(sab);

 

Worker 接收 SharedArrayBuffer 对象:

 

var sab;
onmessage = function (ev) {
sab = ev.data;  // 1KiB shared memory, the same memory as in the parent
}

 

同样的,我们可以通过TypedArray或DataView来读写SharedArrayBuffer:

 

const w = new Worker('worker.js'),
buff = new SharedArrayBuffer(1);
var   arr = new Int8Array(buff);
/* setting data */
arr[0] = 9;
/* sending the buffer (copy) to worker */
w.postMessage(buff);
/* changing the data */
arr[0] = 1;

 

小结

 

本文总结了在JavaScript如何表达深度学习中非常要的矩阵和向量,借助于TypedArray和ArrayBuffer,在JS中,我们也可以高效的处理矩阵数据,为JS中的深度学习提供了坚实的基础。

 

Be First to Comment

发表评论

邮箱地址不会被公开。 必填项已用*标注