Work Queue

lwx_R / 2023-05-18 / 原文

1.概念

工作队列(又称任务队列)的主要思想是避免立即执行资源密集型任务,而不得不等待它完成。
相反我们安排任务在之后执行。我们把任务封装为消息并将其发送到队列。
在后台运行的工作进程将弹出任务并最终执行作业。当有多个工作线程时,这些工作线程将一起处理这些任务。

2.实现

  • 生产者
public class Producer {

    public static final String QUEUE_NAME = "hello";

    public static void main(String[] args) throws Exception {
        ConnectionFactory factory = new ConnectionFactory();
        //连接RabbitMQ队列
        factory.setHost("127.0.0.1");
        //设置用户名 密码
        factory.setUsername("guest");
        factory.setPassword("guest");
        //创建连接
        Connection connection = factory.newConnection();
        //获取信道
        Channel channel = connection.createChannel();
       
        channel.queueDeclare(QUEUE_NAME, false, false, false,null);
        Scanner sc = new Scanner(System.in);
        while(sc.hasNext()){
            String message = sc.next();
            channel.basicPublish("",QUEUE_NAME,null,message.getBytes(StandardCharsets.UTF_8));
        }
    }
}
  • 消费者
public class Woker1 {

    public static final String QUEUE_NAME = "hello";

    public static void main(String[] args) throws Exception {

        Channel channel = Utils.getChannel();
        
        //声明
        DeliverCallback deliverCallback = (counsumerTag , message) -> {
            System.out.println(new String(message.getBody()));
        };

        CancelCallback cancelCallback = counsumerTag -> {
            System.out.println("消息被中断");
        };
        System.out.println("Work1");
        channel.basicConsume(QUEUE_NAME, true, deliverCallback,cancelCallback);
    }
}
  • 多线程启动消费者
    选择第一项

3.消息应答

3.1 概念

消费者完成一个任务可能需要一段时间,如果其中一个消费者处理一个长的任务并仅只完成了部分突然它挂掉了,会发生什么情况。
RabbitMQ一旦向消费者传递了一条消息,便立即将该消息标记为则除。在这种情况下,突然有个消费者挂掉了,我们将丢失正在处理的消息。
以及后续发送给该消费这的消息,因为它无法接收到。
为了保证消息在发送过程中不丢失,RabbitMQ引入消息应答机制,
消息应答就是:消费者在接收到消息并且处理该消息之后,告诉RabbitMQ它已经处理了,RabbitMQ可以把该消息删除了。

3.2自动应答

消息发送后立即被认为已经传送成功,这种模式需要在高吞吐量和数据传输安全性方面做权衡,
因为这种模式如果消息在接收到之前,消费者那边出现连接或者channel关闭,那么消息就丢失了,
当然另一方面这种模式消费者那边可以传递过载的消息,没有对传递的消息数量进行限制
当然这样有可能使得消费者这边由于接收太多还来不及处理的消息,导致这些消息的积压,最终使得内存耗尽,最终这些消费者线程被操作系统杀死,
所以这种模式仅适用在消费者可以高效并以某种速率能够处理这些消息的情况下使用。

3.3 手动应答

  • Channel. basicAck(用于肯定确认)
    RabbitMQ已知道该消息并且成功的处理消息,可以将其丢弃了
  • Channel. basicNack(用于否定确认)
  • Chamel. basiceject(用于否定确认)
    与Channel. basicNack相比少一个参数,不处理该消息了直接拒绝,可以将其丢弃了

3.4 消息重新入队

如果消费者由于某些原因失去连接(其通道己关闭,连接已关闭或TCP连接丢失),导致消息未发送ACK确认,RabbitMQ将了解到消息未完全处理,并将对其重新排队。
如果此时其他消费者可以处理,它将很快将其重新分发给另一个消费者。这样,即使某个消费者偶尔死亡,也可以确保不会丢失任何消息。

3.5 实现

  • 生产者
public class Producer {
    //消息在手动应答不丢失,重新放回队列消费
    //第一次要先启动生产者
    //当work2进程停止后 发送给他的消息由work1处理
    public static final String QUEUE_NAME = "ack";

    public static void main(String[] args) throws Exception {
        ConnectionFactory factory = new ConnectionFactory();
        //连接RabbitMQ队列
        factory.setHost("127.0.0.1");
        //设置用户名 密码
        factory.setUsername("guest");
        factory.setPassword("guest");
        //创建连接
        Connection connection = factory.newConnection();
        //获取信道
        Channel channel = connection.createChannel();

        channel.queueDeclare(QUEUE_NAME, false, false, false,null);
        Scanner sc = new Scanner(System.in);
        while(sc.hasNext()){
            String message = sc.next();
            channel.basicPublish("",QUEUE_NAME,null,message.getBytes(StandardCharsets.UTF_8));
        }
        
    }
}
  • 消费者1
public class Woker1 {

    public static final String QUEUE_NAME = "ack";

    public static void main(String[] args) throws Exception {

        Channel channel = Utils.getChannel();
        System.out.println("W1");

        //手动应答
        boolean autoAck = false;

        //声明
        DeliverCallback deliverCallback = (counsumerTag , message) -> {
            try {
                Thread.sleep(1000);
            }catch (Exception e){
                e.printStackTrace();
            }

            System.out.println(new String(message.getBody(), "UTF-8"));
            //手动应答
            /**
             * 1.消息标记
             * 2. 是否应答批量应答
             */
            channel.basicAck(message.getEnvelope().getDeliveryTag(), false);
        };

        CancelCallback cancelCallback = counsumerTag -> {
            System.out.println("消息被中断");
        };
        System.out.println("Work1");
        channel.basicConsume(QUEUE_NAME, autoAck, deliverCallback,cancelCallback);
    }

}
  • 消费者2
public class Woker2 {

    public static final String QUEUE_NAME = "ack";

    public static void main(String[] args) throws Exception {

        Channel channel = Utils.getChannel();
        System.out.println("W2");

        //手动应答
        boolean autoAck = false;

        //声明
        DeliverCallback deliverCallback = (counsumerTag , message) -> {
            try {
                Thread.sleep(5000);
            }catch (Exception e){
                e.printStackTrace();
            }

            System.out.println(new String(message.getBody(), "UTF-8"));
            //手动应答
            /**
             * 1.消息标记
             * 2. 是否应答批量应答
             */
            channel.basicAck(message.getEnvelope().getDeliveryTag(), false);
        };

        CancelCallback cancelCallback = counsumerTag -> {
            System.out.println("消息被中断");
        };
        System.out.println("Work2");
        channel.basicConsume(QUEUE_NAME, true, deliverCallback,cancelCallback);
    }

}