Mảng vi điện trở nhớ ứng dụng trong mạng Nơ Ron nhân tạo với hệ trọng số tam phân
MẢNG VI ĐIỆN TRỞ NHỚ ỨNG DỤNG TRONG MẠNG NƠ RON NHÂN TẠO VỚI HỆ
TRỌNG SỐ TAM PHÂN
Trần Thanh Hùng
1 Trường đại học Sư phạm Kỹ thuật TP.HCM
Tóm tắt
Trong bài báo này, một cấu trúc mới dùng mạch crossbar memristor với hệ trọng số tam
phân cho nhận dạng ảnh ký tự viết tay được giới thiệu. Bài báo tập trung vào sử dụng memristor
dựa trên mạng nơ ron nhiều lớp. Trong đó, các mảng memristor hoạt động như những trọng số
được tam phân hóa, kết hợp với hàm tác động để xác định ngõ ra. Trong cấu trúc mới được đề
xuất này, hai mảng memristor được sử dụng để thực thi mạng khớp nối thần kinh với các trọng
số tam phân. Cấu trúc mảng memristor này được áp dụng vào ứng dụng nhận dạng ảnh xám. Kết
quả cho thấy rằng mạch crossbar memristor với hệ trọng số tam phân duy trì tỷ lệ nhận dạng tốt
trên 80% ngay cả khi biến thiên trở kháng nhớ tăng tới 25%. Đồng thời, mạch crossbar
memristor với hệ trọng số tam phân có hiệu năng cao về mặt công suất tiêu thụ. Bài báo cũng đã
tối ưu hóa giải thuật huấn luyện mạng nơ ron với hệ trọng số tam phân, bằng cách sử dụng
phương pháp ngưỡng động thay cho phương pháp ngưỡng cố định trước đây. Kết quả cho thấy
phương pháp đề xuất cho tốc độ huấn luyện nhanh hơn nên đạt độ chính xác nhanh hơn phương
pháp cũ 10%.
Từ khóa: Memristor, hệ trọng số tam phân, mạng nơ ron.
lại sự biến thiên của memristor đối với hiệu
suất của mạch.
1.Dẫn nhập
Năm 1971, Giáo sư Leon Chua của UC
Berkeley đã nhận ra khả năng tồn tại của
memristor như là một loại thiết bị cơ bản thứ
tư [1]. Đây là nhân tố mạch thụ động, thể hiện
mối quan hệ giữa điện lượng và từ thông chạy
qua nó. Cho đến năm 2008, thì R. Stanley
Williams cùng các đồng nghiệp đã công bố các
chi tiết về memristor với một số khả năng
tuyệt vời của nó [2]. Về lâu dài thì memristor
thậm chí còn có thể là bước ngoặt đánh dấu sự
xuất hiện của các mạch tương tự biết tính toán
nhờ sử dụng cấu trúc giống như cấu trúc của
bộ não.
2.Tổng quan về Memristor
2.1 Giới thiệu về memristor
Điện trở nhớ (memristor) là từ viết gọn
của “memory resistor”. Một phần tử điện trở
nhớ có hai cực, với trở kháng của nó phụ thuộc
vào độ lớn, chiều phân cực và khoảng thời
gian của điện thế áp lên nó. Khi bạn tắt điện
thế này thì điện trở nhớ vẫn nhớ mức trở
kháng ngay trước khi tắt cho tới lần bật lên kế
tiếp, bất chấp việc này có xảy ra sau đó một
ngày hay một năm.
Chính vì khả năng nhớ đó, nên
memristor được nghiên cứu nhiều về khả năng
nhớ như bộ não người. Miao Hu, Hai Li, Qing
Wu và Garrett S. Rose đã giới thiệu một cấu
trúc sử dụng hai mảng crossbar memristor
biểu diễn ma trận kết nối các cực dương và
cực âm tương ứng được ứng dụng trong việc
nhận dạng ký tự [3]. Dựa trên cấu trúc mạch
crossbar memristor trong bài báo, người thực
hiện đề xuất xây dựng một cấu trúc mạch
crossbar memristor ứng dụng trong mạng nơ
ron nhân tạo nhiều lớp sử dụng hệ trọng số
tam phân nhằm mục đích phân tích công suất
tiêu thụ của mạch, cũng như khả năng chống
Hai tính chất đáng chú ý nhất của
memristor đó là: tính chất nhớ của nó, và kích
thước nano siêu nhỏ.
2.2 Nguyên lý hoạt động
Trong mô hình vật lý của memristor [2],
độ dài của memristor kí hiệu là D, vùng pha
tạp chất TiO2-x có độ dài là w [2] như trong
hình 2.1. Trở kháng của memristor là tổng trở
kháng của vùng tạp chất (doped) và vùng
không tạp chất (undoped). Do đó, trở kháng
của memristor phụ thuộc vào vị trí của đường
phân chia vùng tạp chất và vùng không tạp
1
chất. Nói cách khác, trở kháng của memristor
phụ thuộc vào giá trị của biến trạng thái w.
Như trong hình 2.1, với w/D = 1 thì giá trị trở
kháng là nhỏ nhất do vùng dẫn khuếch tán đầy
memristor, kí hiệu là RON. Ngược lại, với w/D
= 0 thì giá trị trở kháng là lớn nhất do vùng
bán dẫn TiO2 làm đầy memristor ngăn dòng đi
Filament
ON (LRS)
OFF (HRS)
Interface between the
undoped and doped region
qua, kí hiệu là ROFF
.
(a)
(b)
w=D
A
w
V
Hình 2.3: (a) Memristor tương tự với cơ chế
chuyển đổi lớp tiếp giáp;
(b) Memristor nhị phân với cơ chế
chuyển đổi sợi.
RON
Undoped
Doped
ROFF
D
w<<D
Hình 2.1: Mô hình vật lý memristor với vùng
tạp chất và không tạp chất biểu diễn cho trở
kháng ON và OFF.
3. Mảng vi điện trở nhớ ứng dụng trong
mạng nơ ron nhân taọ với hệ trọng số tam
phân
2.3 Memristor chuyển đổi lớp tiếp giáp và
memristor chuyển đổi sợi
3.1 Giải thuật huấn luyện mạng nơ ron với
hệ trọng số tam phân
Hình 2.2 (a) trình bày cấu trúc memristor
tương tự với cơ chế chuyển đổi lớp tiếp giáp.
Khi huấn luyện mạng nơ ron với hệ
Memristor tương tự được sử dụng trong việc trọng số tam phân, các trọng số và hàm truyền
biểu diễn nhiều mức tín hiệu tương tự. Trở của mạng nơ ron được giới hạn thành +1 hoặc
kháng nhớ của memristor có thể được lập trình 0 hoặc −1 [23]. Để chuyển đổi các biến có giá
chính xác bằng cách đặt điện áp hoặc dòng trị thực thành hai giá trị +1 hoặc 0 hoặc −1,
điện cho memristor [4] - [10]. Do đó, các người ta sử dụng hàm tam phân hóa có hai
memristor tương tự thường được sử dụng ngưỡng cố định có thể được chọn như sau:
trong việc lưu trữ các giá trị tương tự với độ
chính xác cao. Tuy nhiên, hiện tại các tài liệu
| |
{ (3.1)
cho các memristor tương tự không phổ biến và
việc lập trình chính xác memristor tương tự là
một thách thức lớn. Bên cạnh đó, các ứng
dụng sử dụng memristor tương tự phải đối mặt
với một số nhược điểm như ảnh hưởng của độ
biến thiên trở kháng nhớ đối với hiệu suất của
hệ thống, thời gian lưu giữ ngắn, ... Ngược lại,
hầu hết các memristor dựa trên cơ chế chuyển
đổi sợi có thể giải quyết các vấn đề trên do
việc chuyển đổi cầu chì – cầu chì nghịch (fuse
– antifuse) bằng các sợi dẫn điện [11] - [22].
Các memristor này có thể được lập trình để có
HRS hoặc LRS như được biểu diễn trong hình
2.2 (b). Khi đó, LRS và HRS của memristor
nhị phân với cơ chế chuyển đổi sợi có thể
được sử dụng để biểu diễn cho logic của 1 và 0
trong các mạch số. Do đó, các memristor này
được gọi là các memristor nhị phân.
Với: : biến được tam phân hóa (trọng
số hoặc hàm truyền)
x : biến có giá trị thực.
: ngưỡng cố định có thể được
chọn của trọng số hoặc hàm truyền.
3.2 Tính giá trị memristor để thực thi hệ
trọng số nhị phân và tam phân trong mảng
crossbar memristor
Ta có phương trình tính trọng số
trong mạch crossbar memristor có dạng như
sau [9]:
(
)
(3.2)
Nguyên nhân gây tiêu tốn nhiều công
suất trong các mạch crossbar memristor là do
khi kích thước mạch tăng thì số lượng các
memristor có trở kháng nhớ mang giá trị LRS
tăng. Do đó, nếu có thể giảm số lượng
memristor có giá trị LRS thì ta có thể giảm
2
công suất tiêu thụ trong mạch. Nghĩa là, với tỷ
lệ các memristor có giá trị HRS cao hơn các
memristor có giá trị LRS, ta sẽ giảm được
công suất tiêu thụ trong mạch vì dòng rò qua
các memristor có giá trị HRS là không đáng
kể. Để thực hiện điều này, trong phương trình
Chọn
và
,
phương trình (3.9) sẽ có dạng:
(
)
(3.10)
(3.11)
Với:
(3.2), cho xét các trường hợp
Từ phương trình (3.10), suy ra:
chuyển đổi giá trị trọng số thành ba giá trị
+1 hoặc 0 hoặc −1 để tính các giá trị
⇔ {
memristor của mảng và thực thi hệ
trọng số tam phân trong mảng crossbar
memristor:
3.3 Thiết kế và mô phỏng mảng crossbar
memristor ứng dụng trong mạng nơ ron
nhân tạo với hệ trọng số tam phân
Trường hợp 1:
Với
, ta có:
Trong đề tài này, người thực hiện sẽ
thiết kế và mô phỏng trên phần mềm Matlab
mảng crossbar memristor ứng dụng trong
mạng nơ ron nhân tạo với hệ trọng số tam
phân. Một mạch crossbar sẽ được mô phỏng
sử dụng các memristor để nhận dạng ký tự viết
tay từ 0 đến 9 trong tập cơ sở dữ liệu MNIST.
(
)
(3.3)
Chọn
và
,
phương trình (3.3) sẽ có dạng:
(
)
(3.4)
3.3.1 Cấu trúc nhận dạng
Với:
Trong đề tài này, người thực hiện dùng
mạng nơ-ron MLP 2 lớp gồm: 784 ngõ vào
tương ứng với các ảnh xám trong tập cơ sỡ dữ
liệu MNIST, có kích thước 28x28 pixel và lớp
ra có 10 nút đại diện cho 10 ký tự viết tay.
Kích thước lớp ẩn được chọn là 512 nút. Hàm
truyền cho ngõ ra của lớp ẩn và lớp ra là hàm
logsig.
Từ phương trình (3.4), suy ra:
⇔ {
(3.5)
(3.6)
Trường hợp 2:
Với , ta có:
(
)
Để tối ưu hóa công suất tiêu thụ như đã
đề cập trước đó, ta chọn
trong trường hợp này, phương trình (3.6) sẽ có
dạng:
(
)
(3.7)
Với:
Từ phương trình (3.7), suy ra:
Hình 3.1: Mô hình huấn luyện mỗi ảnh gồm
784 ngõ vào, 512 nơ ron lớp ẩn, 10 nơ ron lớp
ra và 10 ngõ ra.
⇔ {
(3.8)
(3.9)
Từ mô hình huấn luyện trên, người
thực hiện xây dựng một cấu trúc mạch
crossbar memristor với các memristor biểu
diễn theo hệ trọng số tam phân như đã được đề
xuất để nhận dạng các ký tự viết tay. Mạch
crossbar memristor trong đề tài được xây dựng
Trường hợp 3:
Với , ta có:
(
)
3
theo cấu trúc mạch hai mảng crossbar
memristor của Miao Hu [4]. Do trong đề tài,
người thực hiện sử dụng mạng nơ ron hai lớp
nên cấu trúc mạch được đề xuất cũng sẽ được
chia thành hai lớp tương ứng. Hình 3.3 biểu
diễn cấu trúc mạch nhận dạng của lớp ẩn, với
hàm truyền là hàm logsig. Do lớp ẩn được
chọn có 512 nơ ron, hai mảng crossbar
memristor của lớp ẩn được thiết kế với mỗi
mảng M+ và M- đều có 512 cột. Mỗi cột của
hai mảng crossbar memristor được kết nối với
784 hàng, mỗi hàng đại diện cho 784 ngõ vào
điện áp tương ứng. Các kết quả sẽ được
đưa qua các mạch tạo hàm logsig tương ứng
của mỗi cột để tìm 512 giá trị tới
tương ứng với 512 giá trị của 512 nơ ron lớp
ẩn. Mạch tạo hàm logsig này được thực thi bởi
chương trình trong Matlab.
Hình 3.3: Cấu trúc lớp ra của mạch nhận dạng
crossbar memristor.
3.3.2 Mô phỏng và kết quả
3.3.2.1 Công suất tiêu thụ
Sự gia tăng kích thước của crossbar
thường gây tiêu tốn nhiều công suất. Vì vậy,
việc giảm công suất tiêu thụ trong các mạch
crossbar là cần thiết.
Bảng 3. 1: Công suất tiêu thụ của các
mạch crossbar sử dụng hệ trọng số khớp thần
kinh (Tương tự, Nhị phân, Tam phân).
Hình 3.2: Cấu trúc lớp ẩn của mạch nhận dạng
crossbar memristor.
Công suất tiêu thụ của mạch crossbar
memristor với hệ trọng số tam phân là 2.3822
mW thấp hơn mạch crossbar memristor với hệ
trọng số nhị phân là 3.4477 mW và mạch
crossbar memristor với hệ trọng số tương tự là
22.2541 mW. Từ đó, ta thấy rằng mạch
crossbar memristor với hệ trọng số tam phân
tối ưu hóa công suất tiêu thụ tốt hơn mạch
crossbar với hệ trọng số tương tự và nhị phân.
Hình 3.4 biểu diễn cấu trúc mạch nhận
dạng của lớp ra, với hàm truyền là hàm logsig.
Nhằm mục đích nhận dạng 10 ký tự chữ viêt,
hai mảng crossbar memristor của lớp ra được
thiết kế với mỗi mảng M+ và M- đều có 10
cột. Mỗi cột của hai mảng crossbar memristor
được kết nối với 512 hàng, mỗi hàng đại diện
cho 512 ngõ vào với 512 giá trị tới
được tính ở lớp ẩn. Các kết quả của cột
thứ h (với h = 1, 2, …, 10) sẽ được đưa qua
các mạch tạo hàm logsig tương ứng của mỗi
cột để xuất ra kết quả nhận dạng với 10 giá trị
ngõ ra từ tới .
3.3.2.2 Tỷ lệ nhận dạng theo độ biến thiên
memristor
Độ biến thiên memristor ảnh hưởng rất
lớn đến hiệu suất trong các mạch crossbar
memristor. Để phân tích khả năng duy trì tỷ lệ
nhận dạng theo độ biến thiên memristor của
mạch crossbar memristor với hệ trọng số tam
phân, người thực hiện đã kiểm tra các trường
4
hợp độ biến thiên memristor thay đồi từ 0%
đến 40% như trong hình 3.4.
Trong phương pháp tam phân hóa cũ
được đề cập ở phần trước, mạng nơ ron đã sử
dụng hàm tam phân hóa với hai ngưỡng cố
định. Phương pháp này có ưu điểm là dễ thực
hiện nên thường được sử dụng nhiều trong
việc huấn luyện. Tuy nhiên, phương pháp này
còn tồn tại khuyết điểm là cho tốc độ huấn
luyện của mạng nơ ron còn chậm. Do đó,
người thực hiện đề xuất một phương pháp mới
là sử dụng hàm tam phân hóa với hai ngưỡng
động cho mạng nơ ron nhằm tăng tốc độ huấn
luyện của mạng được thực hiện theo các bước
sau:
Bước 1: Tính độ lệch chuẩn của trọng số
được cập nhật:
Hình 3. 4: So sánh tỷ lệ nhận dạng của
crossbar memristor sử dụng hệ trọng số tương
tự, nhị phân, tam phân với biến thiên trở kháng
nhớ từ 0% đến 40%.
∑
|
|
√
(4.1)
Với: w: vector trọng số được cập nhật
N: số lượng trọng số
: trị trung bình trọng số được cập nhật,
được xác định như sau:
Khi biến thiên trở kháng nhớ là 0%, tỷ lệ
nhận dạng của mảng crossbar memristor với
hệ trọng số tương tự cao hơn 13.21% so với
mảng crossbar memristor với hệ trọng số nhị
phân và cao hơn 7.07% với so với mảng
crossbar memristor với hệ trọng số tam phân.
Tuy nhiên, khi độ biến thiên trở kháng nhớ
tăng lên, tỷ lệ nhận dạng của crossbar
memristor với hệ trọng số tương tự bị suy
giảm rất nhanh. Với độ biến thiên là 25%,
crossbar memristor với hệ trọng số tương tự
cho tỷ lệ nhận dạng là 14.01% và crossbar
memristor với hệ trọng số nhị phân cho tỷ lệ
nhận dạng là 75.98%. Với cùng độ biến thiên
trở kháng, crossbar memristor với hệ trọng số
tam phân vẫn giữ tỷ lệ nhận dạng trên 80% và
chỉ giảm 7,36% so với độ biến thiên 0%. Qua
đó, người thực hiện thấy rằng mạch crossbar
memristor với hệ trọng số tam phân duy trì tỷ
lệ nhận dạng tốt trên 80% ngay cả khi biến
thiên trở kháng nhớ tăng tới 25%. Điều này là
do độ chính xác của thông tin được lưu trữ
trong mạch crossbar memristor với hệ trọng số
tam phân không bị ảnh hưởng nhiều bởi biến
thiên trở kháng nhớ khi so với mạch crossbar
memristor với hệ trọng số tương tự hoặc mạch
crossbar memristor với hệ trọng số nhị phân
∑
(4.2)
Bước 2: Vẽ hàm mật độ phân phối
chuẩn hay hàm phân phối Gauss có dạng tổng
quát như sau:
)
(
(4.3)
√
Bước 3: Chuyển đổi phân phối chuẩn
theo w thành phân phối chuẩn tắc
với biến số mới là z. Để đổi hàm y = f(w) ra
hàm chuẩn tắc y = f(z) ta có:
(4.4)
Bước 4: Chọn ngưỡng động theo hàm
phân phối Gauss:
(4.5)
{
Với: : trọng số được tam phân hóa
w: trọng số có giá trị thực.
4.2 Ứng dụng phương pháp tam phân hóa
sử dụng ngưỡng động trong huấn luyện
mạng nơ ron
4.Tối ưu hóa giải thuật huấn luyện mạng nơ
ron với hệ trọng số tam phân
4.1 Phương pháp tam phân hóa sử dụng
ngưỡng động
4.2.1 Lưu đồ giải thuật:
5
Để phân tích tốc độ huấn luyện của
phương pháp tam phân hóa sử dụng ngưỡng
động trong huấn luyện mạng nơ ron, người
thực hiện sẽ tiến hành mô phỏng trên phần
mềm Matlab bằng cách so sánh tốc độ huấn
luyện giữa phương pháp tam phân hóa ngưỡng
cố định và ngưỡng động ứng dụng trong huấn
luyện mạng nơ ron.
Bảng 4. 1: Tốc độ huấn luyện của
phương pháp tam phân hóa ngưỡng cố định và
ngưỡng động ứng dụng trong huấn luyện mạng
nơ ron với tỷ lệ nhận dạng đạt 91%.
Hình 4.1: Lưu đồ giải thuật huấn luyện mạng
nơ ron sử dụng phương pháp tam phân hóa sử
dụng ngưỡng động
Từ kết quả mô phỏng đạt được trong
bảng 4.1, ta có thể thấy với cùng tỷ lệ nhận
dạng thì phương pháp đề xuất có tốc độ huấn
luyện nhanh hơn phương pháp cũ 10%. Với cả
hai phương pháp, ta đều phân các trọng số
thành 3 lớp với xác suất khoảng 33% cho mỗi
lớp. Tuy nhiên với phương pháp sử dụng
ngưỡng cố định thì khi huấn luyện, ta sẽ cập
nhật nhiều giá trị trọng số nằm trong ngưỡng
cố định tạo ra các phân bố không đều khiến tốc
độ huấn luyện bị chậm và đôi khi không thể
hoàn thành quá trình huấn luyện nếu không lựa
chọn đúng các thông số ban đầu. Với phương
pháp sử dụng ngưỡng động, bằng cách tính giá
trị trung bình và độ lệch chuẩn của trọng số thì
khi huấn luyện, ta sẽ giới hạn được các giá trị
trọng số giúp tạo xác suất đạt độ chính xác
nhanh hơn. Trong bảng 4.1, ta cũng thấy rằng
cả hai quá trình huấn luyện sử dụng ngưỡng cố
định và ngưỡng động có cùng tỷ lệ nhận dạng
91%. Điều này là do cả hai quá trình huấn
luyện đều kết thúc khi hàm sai số đạt tới giá trị
nhỏ nhất được cài đặt trước.
Giải thuật gồm các bước như sau:
Bước 1: Tiến hành lấy mẫu ngẫu nhiên
từ tập ảnh ký tự MNIST, khởi tạo giá trị
trọng số với các giá trị mẫu ngẫu nhiên.
Bước 2: Với mỗi ảnh kí tự:
− Thực hiện huấn luyện lan truyền thẳng
để tính ngõ ra của mạng.
− So sánh với giá trị ngõ ra mong muốn
tương ứng với từng ảnh kí tự và tính toán
sai số.
− Thực hiện huấn luyện lan truyền
ngược giá trị từ ngõ vào với mỗi liên kết
tính cập nhật trọng số liên kết.
− Tính trị trung bình và độ lệch chuẩn
để xác định ngưỡng động. Dựa trên
ngưỡng động vừa được xác định, tiến
hành tam phân hóa các trọng số được
cập nhật.
Bước 3: So sánh sai số vừa tính được
với ngưỡng.
− Nếu sai số đạt điều kiện đến ngưỡng
thì bỏ lặp lại
5. Kết luận
− Ngược lại tiếp tục lặp lại.
Đầu tiên, đề tài đã so sánh công suất tiêu
thụ của mạch crossbar memristor trong mạng
nơ ron sử dụng memristor với các hệ trọng số
tương tự, nhị phân, tam phân. Từ kết quả mô
phỏng huấn luyện đạt được, ta thấy rằng thấy
4.2.2 Mô phỏng kết quả trên phần mềm
Matlab
6
rằng mạch crossbar memristor với hệ trọng số tam phân duy trì tỷ lệ nhận dạng tốt trên 80%
tam phân có mức công suất tiêu thụ là 2.3822 ngay cả khi biến thiên trở kháng nhớ tăng tới
mW tối ưu hóa công suất tiêu thụ tốt hơn mạch 25%.
crossbar với hệ trọng số tương tự và nhị phân
có mức công suất tiêu thụ lần lượt là 24.6363
mW và 5.8299 mW.
Cuối cùng, đề tài đã tối ưu hóa giải thuật
huấn luyện mạng nơ ron với hệ trọng số tam
phân, bằng cách đề xuất phương pháp ngưỡng
Tiếp theo, đề tài đã tiến hành phân tích động thay cho phương pháp ngưỡng cố định
khả năng duy trì tỷ lệ nhận dạng theo độ biến trước đây. Kết quả mô phỏng huấn luyện với
thiên trở kháng của memristor của mạch hai phương pháp cho thấy phương pháp đề
crossbar memristor với các hệ trọng số tương xuất cho tốc độ huấn luyện nhanh hơn nên đạt
tự, nhị phân, tam phân trong điều kiện độ biến độ chính xác nhanh hơn phương pháp cũ 10%.
thiên trở kháng của memristor thay đồi từ 0%
đến 40%. Sau quá trình huấn luyện, ta thấy
rằng mạch crossbar memristor với hệ trọng số
Tài Liệu Tham Khảo
[1] L. O. Chua, “Memristor – the missing circuit element,” IEEE Trans. Circuit Theory, vol.
CT-18, no. 5, pp. 507-519, Sep. 1971.
[2] R. S. Williams, “How we found the missing memristor,” IEEE Spectrum, vol. 45, iss. 12,
pp. 28-35, Dec. 2008.
[3] M. Hu, H, Li, Q. Wu, G. S. Rose, and Y. Chen, “Memristor crossbar based hardware
realization of BSB recall function”, International Joint Conference on Neural Networks,
pp. 1-7, Jun. 2012.
[4] M. Suri , O. Bichler , D. Querlioz , O. Cueto, L. Perniola, V. Sousa, D. Vuillaume, C.
Gamrat, and B. DeSalvo, “Phase change memory as synapse for ultra-dense neuromorphic
systems: Application to complex visual pattern extraction,” IEDM Tech. Dig., pp. 79-82,
Dec. 2011.p
[5] D. Kuzum, R. G. D. Jeyasingh, and H.-S. P. Wong, “Energy efficient programming of
nanoelectronic synaptic devices for large-scale implementation of associative and temporal
sequence learning,” IEDM Tech. Dig., pp. 693-696, Dec. 2011.
[6] K. Seo, I. Kim, S. Jung, M. Jo, S. Park, J. Park, J. Shin, K. P. Biju, J. Kong, K. Lee, B. Lee,
and H. Hwang, “Analog memory and spike-timing-dependent plasticity characteristics of a
nanoscale titanium oxide bilayer resistive switching device,” Nanotechnology, vol. 22, p.
254023, May. 2011.
[7] D. Kuzum, R. G. D. Jeyasingh, B. Lee, and H.-S. P. Wong, “Nanoelectronic programmable
synapses based on phase change materials for brain-inspired computing,” Nano Letters,
vol. 12, no. 5, pp. 2179-2186, Jun. 2011.
[8] S. Park, A. Sheri, J. Kim, J. Noh, J. Jang, M. Jeon, B. Lee, B. R. Lee, B.H. Lee, and H.
Hwang, “Neuromorphic speech systems using advanced ReRAM-based synapse,” IEDM
Tech. Dig., pp. 625-628, Dec. 2013.
[9] S. N. Truong and K. S. Min “New memristor-based crossbar array architecture with 50-%
area reduction and 48-% power saving for matrix-vector multiplication of analog
neuromorphic computing,” Journal of Semiconductor Technology and Science, vol. 14, no.
3, pp. 356-363, Jun. 2014.
[10] S. N. Truong, S. H. Shin, J.S. Sang, H. S. Mo, F. Corinto, and K. S. Min, “Memristor-
based cellular nanoscale networks: Theory, design and applications,” IEEE International
Symposium on Circuits and Systems (ISCAS), pp. 1134-1137, May, 2015.
[11] S. Yu and H.-S. P. Wong, “Modeling the switching dynamics of programmable-
metallization-cell (PMC) memory and its application as synapse device for a neuromorphic
computation system,” IEDM Tech. Dig., pp. 520-523, Dec. 2010
7
[12] S. Yu, B. Gao, Z. Fang, H. Yu, J. Kang, and H.-S. P. Wong, “A Neuromorphic visual system
using RRAM synaptic devices with sub-pJ energy and tolerance to variability: Experimental
characterization and large-scale modeling,” IEDM Tech. Dig., pp. 239-242, Dec. 2012
[13] M. Suri, O. Bichler, D. Querlioz, G. Palma, E. Vianello, D. Vuillaume, C. Gamrat, and B.
DeSalvo, “CBRAM devices as binary synapses for low-power stochastic neuromorphic
systems: Auditory (cochlea) and visual (retina) cognitive processing applications,” IEDM
Tech. Dig., pp. 235-238, Dec. 2012.
[14] M. Suri, D. Querlioz, O. Bichler, G. Palma, E. Vianello, D. Vuillaume, C. Gamrat, and B.
DeSalvo, “Bio-inspired stochastic computing using binary CBRAM synapses,” IEEE
Trans. Electron Devices, vol. 60, no. 7, pp. 2402-2409, Jul. 2013.
[15] R. Waser and M. Aono, “Nanoionics-based resistive switching memories,” Nature
Materials, vol. 6, no. 11, pp. 833-840, Nov. 2007.
[16] M. J. Lee, S. Han, H. H. Jeon, B. H. Park, B. S. Kang, S. E. Ahn, K. H. Kim, C. B. Lee, C.
J. Kim, I. K. Yoo, D. H. Seo, X. S. Li, J. B. Park, J. H. Lee, and Y. Park, “Electrical
manipulation of nanofilaments in Transition-Metal Oxides for resistance-based memory,”
Nano Letter, vol. 9, no. 4, pp. 1476-1481, Mar. 2009.
[17] J. J. Yang, D. B. Strukov, and D. R. Stewart, “Memristive devices for computing,” Nature
Nanotechnology, vol. 18, pp. 13-24, Jan. 2013.
[18] C. H. Huang, J. S. Huang, C. H. Lai, H. W. Huang, S. J. Lin, and Y. L. Chueh,
“Manipulated transformation of filamentary and homogeneous resistive switching on ZnO
thin film memristor with controllable multistate,” Applied Materials Interface, vol. 5, no.
13, pp. 6017-6023, May 2013.
[19] L. L. Wei, J. Wang, Y. S. Chen, D. S. Shang, Z. G. Sun, B. G. Shen and J. R. Sun, “Pulse-
induced alternation from bipolar resistive switching to unipolar resistive switching in the
Ag/AgOx/Mg0.2Zn0.8O/Pt device,” Journal of Applied Physics, vol. 45, iss. 42, pp. 1-5, Oct.
2012.
[20] H. M. Vo, S. N. Truong, S. H. Shin, and K. S. Min, “CMOS-Memristor hybrid 4-bit
multiplier circuit for energy-efficient computing,” Journal of Institute of Korea Electrical
and Electronics Engineers (IKEEE), vol. 18, no. 2, pp. 50-55, Jun. 2014.
[21] S. N. Truong, S. J. Ham, and K. S. Min, “Neuromorphic crossbar circuit with nanoscale
filamentary-switching binary memristors for speech recognition,” Nanoscale Research
Letters, vol. 9 no. 629, pp. 1-9, Nov. 2014.
[22] S. N. Truong, S. H. Shin, S. D. Byeon, J. S. Song, and K. S. Min, “New twin crossbar
architecture of binary memristors for low-power image recognition with discrete cosine
transform”, IEEE Trans. Nanotechnology, vol. 14,. no. 6, pp. 1104-1111, Nov. 2015
[23] Fengfu Li and Bin Liu. Ternary weight networks. arXiv preprint arXiv:1605.04711, 2016.
Tác giả chịu trách nhiệm bài viết:
Họ tên: Trần Thanh Hùng
Đơn vị: Đài Tiếng Nói Nhân Dân TP.HCM
Điện thoại: 097.103.7738
Email: [email protected]m
Tp. Hồ Chí Minh, ngày
tháng
năm 20…
Xác nhận của giảng viên hướng dẫn
(Ký & ghi rõ học tên)
8
8 trang
09/01/2024
16902
Free
Bạn đang xem tài liệu "Mảng vi điện trở nhớ ứng dụng trong mạng Nơ Ron nhân tạo với hệ trọng số tam phân", để tải tài liệu gốc về máy hãy click vào nút Download ở trên
File đính kèm:
- mang_vi_dien_tro_nho_ung_dung_trong_mang_no_ron_nhan_tao_voi.pdf
