일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | ||||
4 | 5 | 6 | 7 | 8 | 9 | 10 |
11 | 12 | 13 | 14 | 15 | 16 | 17 |
18 | 19 | 20 | 21 | 22 | 23 | 24 |
25 | 26 | 27 | 28 | 29 | 30 | 31 |
- Flash Memory
- Cache
- linux
- 시스템 소프트웨어
- performance
- Samsung
- memory
- 커널 프로그래밍
- deep learning
- FTL
- 키워드
- 포트 번호 변경
- Git
- software
- 시스템 프로그래밍
- Machine Learning
- USENIX
- kernel
- hardware
- core dumped
- Intel
- storage system
- overflow
- github
- rocksdb
- framework
- Operating System
- ssd
- Today
- Total
Happy to visit my research note ^^
SDF: Software-Defined Flashfor Web-Scale Internet Storage Systems 본문
SDF: Software-Defined Flashfor Web-Scale Internet Storage Systems
Liam Lim 2023. 4. 10. 15:36
Jian Ouyang Shiding Lin Baidu, Inc.
Song Jiang ∗ Peking University and Wayne State University
Zhenyu Hou Yong Wang Yuanzheng Wang Baidu, Inc
February 2014 Pages 471–484
https://doi.org/10.1145/2541940.2541959
Abstract
지난 몇 년간, 중국 최대 internet search company인 Baidu의 data center에 수십만 개의 SSD가 출시되었다. 현재 storage system에서 application으로 전달되는 flash memory의 bandwidth는 원래 bandwidth의 40% 이하이다. 또한, non-sequential or random writes를 수용하기 위한 SSD의 space over-provisioning과 flash channels 간의 parity code도 적용되어 일반적으로 상용 SSD의 원래 용량의 50-70%만이 사용자 데이터로 사용된다. Baidu의 data center에서는 SSD를 가장 효과적으로 사용하는 것을 가장 중요한 문제로 뒀다. Specifically, 저자들은 bandwidth and usable capacity를 최대화하려고 한다.
To achieve this goal, 저자들은 그들의 workloads 환경에서 flash memory의 performance characteristics를 최대한 활용하기 위해 hardware/software co-designed storage system인 SDF(software-defined flash)를 제안한다. SDF는 개별 flash channel을 host software에 노출시키고, space over-provisioning을 없앤다. SSD의 flash channels에 direct access를 제공받는 host software는 data를 효과적으로 조직하고, data access를 scheduling해서 SSD의 raw performance potential을 더욱 잘 활용할 수 있다.
Currently, Baidu`s storage system에 3000개 이상의 SDF(software-defined flash)가 배치되어 있다. 이런 SDF는 web page and image repository services 사용에 이용된다. 저자들의 측정 결과, SDF는 SSD의 raw flash bandwidth의 약 95%를 절달하고 user data를 위한 flash capacity의 99%fmf wprhdgkf tn dlTek. SDF는 Baidu에서 사용되는 commodity SSD-based system과 비교해서 I/O bandwidth를 300% 높이고, reduces per-GB hardware cost by 50% on average.