【Java笔记】对象存储服务MinIO

- 日理万妓 2024-03-23 22:30 157阅读 0赞

#### 1 MinIO简介 ####

`MinIO`基于Apache License v2.0开源协议的对象存储服务，可以做为云存储的解决方案用来保存海量的图片，视频，文档。由于采用`Golang`实现，服务端可以工作在Windows,Linux, OS X和FreeBSD上。配置简单，基本是复制可执行程序，单行命令可以运行起来。

MinIO兼容亚马逊S3云存储服务接口，非常适合于存储大容量非结构化的数据，例如图片、视频、日志文件、备份数据和容器/虚拟机镜像等，而一个对象文件可以是任意大小，从几kb到最大5T不等。

**S3 （ Simple Storage Service简单存储服务）**

基本概念

*  bucket – 类比于文件系统的目录
 *  Object – 类比文件系统的文件
 *  Keys – 类比文件名

官网文档：[http://docs.minio.org.cn/docs/][http_docs.minio.org.cn_docs]

#### 2 MinIO特点 ####

*  数据保护
    
    Minio使用Minio Erasure Code（纠删码）来防止硬件故障。即便损坏一半以上的driver，但是仍然可以从中恢复。
 *  高性能
    
    作为高性能对象存储，在标准硬件条件下它能达到55GB/s的读、35GB/s的写速率
 *  可扩容
    
    不同MinIO集群可以组成联邦，并形成一个全局的命名空间，并跨越多个数据中心
 *  SDK支持
    
    基于Minio轻量的特点，它得到类似Java、Python或Go等语言的sdk支持
 *  有操作页面
    
    面向用户友好的简单操作界面，非常方便的管理Bucket及里面的文件资源
 *  功能简单
    
    这一设计原则让MinIO不容易出错、更快启动
 *  丰富的API
    
    支持文件资源的分享连接及分享链接的过期策略、存储桶操作、文件列表访问及文件上传下载的基本功能等。
 *  文件变化主动通知
    
    存储桶（Bucket）如果发生改变,比如上传对象和删除对象，可以使用存储桶事件通知机制进行监控，并通过以下方式发布出去:AMQP、MQTT、Elasticsearch、Redis、NATS、MySQL、Kafka、Webhooks等。

#### 3 开箱使用 ####

##### 3.3.1 安装启动 #####

我们可以使用docker进行环境部署和启动

docker run -p 9000:9000 --name minio -d --restart=always -e "MINIO_ACCESS_KEY=minio" -e "MINIO_SECRET_KEY=minio123" -v /home/data:/data -v /home/config:/root/.minio minio/minio server /data

##### 3.2 管理控制台 #####

假设我们的服务器地址为`http://192.168.200.130:9000`，我们在地址栏输入：`http://http://192.168.200.130:9000/`即可进入登录界面。  
![在这里插入图片描述][a8529f098d4748a98edda39b613c5a27.png]

Access Key为minio，Secret\_key 为minio123（是在启动docker中启动minio容器时指定的账号和密码），进入系统后可以看到主界面

![844de56b93154e4e8e573c833e73b739.png][]

点击右下角的“+”号 ，点击下面的图标，可以创建一个桶

#### 4 快速入门 ####

##### 4.1 创建工程，导入pom依赖 #####

创建项目`minio-demo`,对应pom如下

<?xml version="1.0" encoding="UTF-8"?>
    <project xmlns="http://maven.apache.org/POM/4.0.0"
             xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
             xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
        <parent>
            <artifactId>heima-leadnews-test</artifactId>
            <groupId>com.heima</groupId>
            <version>1.0-SNAPSHOT</version>
        </parent>
        <modelVersion>4.0.0</modelVersion>
    
        <artifactId>minio-demo</artifactId>
    
        <properties>
            <maven.compiler.source>8</maven.compiler.source>
            <maven.compiler.target>8</maven.compiler.target>
        </properties>
    
        <dependencies>
    
            <dependency>
                <groupId>io.minio</groupId>
                <artifactId>minio</artifactId>
                <version>7.1.0</version>
            </dependency>
            <dependency>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-starter-web</artifactId>
            </dependency>
    
            <dependency>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-starter-test</artifactId>
            </dependency>
        </dependencies>
    
    </project>

引导类：

package com.heima.minio;
    
    import org.springframework.boot.SpringApplication;
    import org.springframework.boot.autoconfigure.SpringBootApplication;
    
    
    @SpringBootApplication
    public class MinIOApplication {
        
    
        public static void main(String[] args) {
        
            SpringApplication.run(MinIOApplication.class,args);
        }
    }

创建测试类`MinIOTest`，上传html文件

package com.heima.minio.test;
    
    import io.minio.MinioClient;
    import io.minio.PutObjectArgs;
    
    import java.io.FileInputStream;
    
    public class MinIOTest {
        
    
        public static void main(String[] args) {
        
            FileInputStream fileInputStream = null;
            try {
        
                fileInputStream =  new FileInputStream("D:\\list.html");;
    
                //1.创建minio链接客户端
                MinioClient minioClient = MinioClient.builder().credentials("minio", "minio123").endpoint("http://192.168.200.130:9000").build();
                //2.上传
                PutObjectArgs putObjectArgs = PutObjectArgs.builder()
                        .object("list.html")//文件名
                        .contentType("text/html")//文件类型
                        .bucket("leadnews")//桶名词  与minio创建的名词一致
                        .stream(fileI	nputStream, fileInputStream.available(), -1) //文件流
                        .build();
                minioClient.putObject(putObjectArgs);
    
                System.out.println("http://192.168.200.130:9000/leadnews/ak47.jpg");
            } catch (Exception ex) {
        
                ex.printStackTrace();
            }
        }
    
    }

文件上传后的访问地址：`http://192.168.200.130:9000/leadnews/list.html`

如果上传后不能访问，需要在管理端修改权限，`"edit policy" -> "read and write"`  
![在这里插入图片描述][903c6d9155454a54b3c1abd3e4a5b680.png]

#### 5 整合Springboot ####

##### 5.1 创建项目模块 heima-file-starter #####

1.  目录结构  
    ![在这里插入图片描述][222c01f2b7624860ad26f30e51295ede.png]

#### 5.2 代码实现 ####

`MinIOConfig.java`配置类

package com.heima.file.config;
    
    import com.heima.file.service.FileStorageService;
    import io.minio.MinioClient;
    import lombok.Data;
    import org.springframework.beans.factory.annotation.Autowired;
    import org.springframework.boot.autoconfigure.condition.ConditionalOnClass;
    import org.springframework.boot.context.properties.EnableConfigurationProperties;
    import org.springframework.context.annotation.Bean;
    import org.springframework.context.annotation.Configuration;
    
    
    @Data
    @Configuration
    @EnableConfigurationProperties({
        MinIOConfigProperties.class})
    //当引入FileStorageService接口时
    @ConditionalOnClass(FileStorageService.class)
    public class MinIOConfig {
        
    
        @Autowired
        private MinIOConfigProperties minIOConfigProperties;
    
        @Bean
        public MinioClient buildMinioClient() {
        
            return MinioClient
                    .builder()
                    .credentials(minIOConfigProperties.getAccessKey(), minIOConfigProperties.getSecretKey())
                    .endpoint(minIOConfigProperties.getEndpoint())
                    .build();
        }
    }

`MinIOConfigProperties.java` 配置属性

package com.heima.file.config;
    
    
    import lombok.Data;
    import org.springframework.boot.context.properties.ConfigurationProperties;
    
    import java.io.Serializable;
    
    @Data
    @ConfigurationProperties(prefix = "minio")  // 文件上传 配置前缀file.oss
    public class MinIOConfigProperties implements Serializable {
        
    
        private String accessKey;
        private String secretKey;
        private String bucket;
        private String endpoint;
        private String readPath;
    }

工具类的接口`FileStorageService .java`

package com.heima.file.service;
    
    import java.io.InputStream;
    
    /**
     * @author itheima
     */
    public interface FileStorageService {
        
    
    
        /**
         *  上传图片文件
         * @param prefix  文件前缀
         * @param filename  文件名
         * @param inputStream 文件流
         * @return  文件全路径
         */
        public String uploadImgFile(String prefix, String filename,InputStream inputStream);
    
        /**
         *  上传html文件
         * @param prefix  文件前缀
         * @param filename   文件名
         * @param inputStream  文件流
         * @return  文件全路径
         */
        public String uploadHtmlFile(String prefix, String filename,InputStream inputStream);
    
        /**
         * 删除文件
         * @param pathUrl  文件全路径
         */
        public void delete(String pathUrl);
    
        /**
         * 下载文件
         * @param pathUrl  文件全路径
         * @return
         *
         */
        public byte[]  downLoadFile(String pathUrl);
    
    }

工具类具体实现 `MinIOFileStorageService.java`

package com.heima.file.service.impl;
    
    
    import com.heima.file.config.MinIOConfig;
    import com.heima.file.config.MinIOConfigProperties;
    import com.heima.file.service.FileStorageService;
    import io.minio.GetObjectArgs;
    import io.minio.MinioClient;
    import io.minio.PutObjectArgs;
    import io.minio.RemoveObjectArgs;
    import lombok.extern.slf4j.Slf4j;
    import org.springframework.beans.factory.annotation.Autowired;
    import org.springframework.boot.context.properties.EnableConfigurationProperties;
    import org.springframework.context.annotation.Import;
    import org.springframework.util.StringUtils;
    
    import java.io.ByteArrayOutputStream;
    import java.io.IOException;
    import java.io.InputStream;
    import java.text.SimpleDateFormat;
    import java.util.Date;
    
    @Slf4j
    @EnableConfigurationProperties(MinIOConfigProperties.class)
    @Import(MinIOConfig.class)
    public class MinIOFileStorageService implements FileStorageService {
        
    
        @Autowired
        private MinioClient minioClient;
    
        @Autowired
        private MinIOConfigProperties minIOConfigProperties;
    
        private final static String separator = "/";
    
        /**
         * @param dirPath
         * @param filename  yyyy/mm/dd/file.jpg
         * @return
         */
        public String builderFilePath(String dirPath,String filename) {
        
            StringBuilder stringBuilder = new StringBuilder(50);
            if(!StringUtils.isEmpty(dirPath)){
        
                stringBuilder.append(dirPath).append(separator);
            }
            SimpleDateFormat sdf = new SimpleDateFormat("yyyy/MM/dd");
            String todayStr = sdf.format(new Date());
            stringBuilder.append(todayStr).append(separator);
            stringBuilder.append(filename);
            return stringBuilder.toString();
        }
    
        /**
         *  上传图片文件
         * @param prefix  文件前缀
         * @param filename  文件名
         * @param inputStream 文件流
         * @return  文件全路径
         */
        @Override
        public String uploadImgFile(String prefix, String filename,InputStream inputStream) {
        
            String filePath = builderFilePath(prefix, filename);
            try {
        
                PutObjectArgs putObjectArgs = PutObjectArgs.builder()
                        .object(filePath)
                        .contentType("image/jpg")
                        .bucket(minIOConfigProperties.getBucket()).stream(inputStream,inputStream.available(),-1)
                        .build();
                minioClient.putObject(putObjectArgs);
                StringBuilder urlPath = new StringBuilder(minIOConfigProperties.getReadPath());
                urlPath.append(separator+minIOConfigProperties.getBucket());
                urlPath.append(separator);
                urlPath.append(filePath);
                return urlPath.toString();
            }catch (Exception ex){
        
                log.error("minio put file error.",ex);
                throw new RuntimeException("上传文件失败");
            }
        }
    
        /**
         *  上传html文件
         * @param prefix  文件前缀
         * @param filename   文件名
         * @param inputStream  文件流
         * @return  文件全路径
         */
        @Override
        public String uploadHtmlFile(String prefix, String filename,InputStream inputStream) {
        
            String filePath = builderFilePath(prefix, filename);
            try {
        
                PutObjectArgs putObjectArgs = PutObjectArgs.builder()
                        .object(filePath)
                        .contentType("text/html")
                        .bucket(minIOConfigProperties.getBucket()).stream(inputStream,inputStream.available(),-1)
                        .build();
                minioClient.putObject(putObjectArgs);
                StringBuilder urlPath = new StringBuilder(minIOConfigProperties.getReadPath());
                urlPath.append(separator+minIOConfigProperties.getBucket());
                urlPath.append(separator);
                urlPath.append(filePath);
                return urlPath.toString();
            }catch (Exception ex){
        
                log.error("minio put file error.",ex);
                ex.printStackTrace();
                throw new RuntimeException("上传文件失败");
            }
        }
    
        /**
         * 删除文件
         * @param pathUrl  文件全路径
         */
        @Override
        public void delete(String pathUrl) {
        
            String key = pathUrl.replace(minIOConfigProperties.getEndpoint()+"/","");
            int index = key.indexOf(separator);
            String bucket = key.substring(0,index);
            String filePath = key.substring(index+1);
            // 删除Objects
            RemoveObjectArgs removeObjectArgs = RemoveObjectArgs.builder().bucket(bucket).object(filePath).build();
            try {
        
                minioClient.removeObject(removeObjectArgs);
            } catch (Exception e) {
        
                log.error("minio remove file error.  pathUrl:{}",pathUrl);
                e.printStackTrace();
            }
        }
    
    
        /**
         * 下载文件
         * @param pathUrl  文件全路径
         * @return  文件流
         *
         */
        @Override
        public byte[] downLoadFile(String pathUrl)  {
        
            String key = pathUrl.replace(minIOConfigProperties.getEndpoint()+"/","");
            int index = key.indexOf(separator);
            String bucket = key.substring(0,index);
            String filePath = key.substring(index+1);
            InputStream inputStream = null;
            try {
        
                inputStream = minioClient.getObject(GetObjectArgs.builder().bucket(minIOConfigProperties.getBucket()).object(filePath).build());
            } catch (Exception e) {
        
                log.error("minio down file error.  pathUrl:{}",pathUrl);
                e.printStackTrace();
            }
    
            ByteArrayOutputStream byteArrayOutputStream = new ByteArrayOutputStream();
            byte[] buff = new byte[100];
            int rc = 0;
            while (true) {
        
                try {
        
                    if (!((rc = inputStream.read(buff, 0, 100)) > 0)) break;
                } catch (IOException e) {
        
                    e.printStackTrace();
                }
                byteArrayOutputStream.write(buff, 0, rc);
            }
            return byteArrayOutputStream.toByteArray();
        }
    }

`spring.factories` 用于实现自动注配置（autoConfiguration，原理与spring自动配置相同）

org.springframework.boot.autoconfigure.EnableAutoConfiguration=\
      com.heima.file.service.impl.MinIOFileStorageService

##### 5.3 其他模块使用文件上传服务 #####

1.  项目结构  
    ![在这里插入图片描述][23ed77866535498da534d7a59863d221.png]
2.  引入依赖

<dependencies>
            <dependency>
                <groupId>com.heima</groupId>
                <artifactId>heima-file-starter</artifactId>
                <version>1.0-SNAPSHOT</version>
            </dependency>
        </dependencies>

1.  配置文件

minio:
      accessKey: minio
      secretKey: minio123
      bucket: leadnews
      endpoint: http://192.168.200.130:9000
      readPath: http://192.168.200.130:9000

1.  启动类

package minio;
    
    import org.springframework.boot.SpringApplication;
    import org.springframework.boot.autoconfigure.SpringBootApplication;
    
    @SpringBootApplication
    public class MinIOApplication {
        
        public static void main(String[] args) {
        
            SpringApplication.run(MinIOApplication.class, args);
        }
    }

1.  测试代码

package minio;
    
    import com.heima.file.service.impl.MinIOFileStorageService;
    import io.minio.MinioClient;
    import io.minio.PutObjectArgs;
    import org.junit.Test;
    import org.junit.runner.RunWith;
    import org.springframework.beans.factory.annotation.Autowired;
    import org.springframework.boot.test.context.SpringBootTest;
    import org.springframework.test.context.junit4.SpringRunner;
    
    import java.io.FileInputStream;
    import java.io.FileNotFoundException;
    
    @SpringBootTest(classes = MinIOApplication.class)
    @RunWith(SpringRunner.class)
    public class MinIOTest {
        
    
        @Autowired
        private MinIOFileStorageService storageService;
    
        @Test
        public void testuploadImgFile(){
        
            FileInputStream fileInputStream = null;
            try {
        
                fileInputStream = new FileInputStream("D:\\testImg.jpg");
    
                String filePath = storageService.uploadImgFile("", "testImg.jpg", fileInputStream);
                System.out.println("filePath = " + filePath);
    
            } catch (FileNotFoundException e) {
        
                throw new RuntimeException(e);
            }
        }
    
    }

1.  效果

文件访问地址`http://192.168.200.130:9000/leadnews/2023/08/14/testImg.jpg`  
![在这里插入图片描述][36476a904e7e420f82e794b4feb48bd7.png]  
将根据上传时的日期，生成目录结构。

[http_docs.minio.org.cn_docs]: http://docs.minio.org.cn/docs/
[a8529f098d4748a98edda39b613c5a27.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/24207810d0dd42318e228f15e721fafc.png
[844de56b93154e4e8e573c833e73b739.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/3e16f3f160c9459495c23fcb796c735b.png
[903c6d9155454a54b3c1abd3e4a5b680.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/28ba3bf7fad6445fb38ffae1b2a3c1cb.png
[222c01f2b7624860ad26f30e51295ede.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/be1b972d86e54f99b67c6fa05743b924.png
[23ed77866535498da534d7a59863d221.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/394caa1fd7244725ab7135143a29982d.png
[36476a904e7e420f82e794b4feb48bd7.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/14/f62ecfb9fa7b4086890579e6154207a6.png