TTL是什么：缓存生命周期及其工作原理

什么是TTL？

TTL（Time To Live）—— 是一个时间标记或间隔，之后数据被视为无效。在缓存上下文中，TTL确定一个记录在需要从原始源重新请求之前可以在缓存中存储多久。在网络协议中，TTL限制了数据包的寿命，防止无限路由。

TTL值始终以时间单位表示：毫秒、秒、分钟或小时。设定时间到期后，记录要么从缓存中删除，要么标记为stale（过期）。圩下一次对过期记录的请求时，系统可以返回过期数据并后续更新（stale-while-revalidate），或在接收到新鲜数据之前拦截请求。

选择TTL始终是数据的时效性和性能之间的折衷。TTL过短（1–5秒）会迫使应用程序频繁执行网络请求，减弱缓存的好处。TTL过长（小时/天）会增加向用户显示过期信息的风险。最佳值取决于数据类型：汇率——秒，天气——分钟，API版本——小时。

TTL和缓存失效

TTL是被动失效：数据在时间到期后自动删除。另一种方式是主动失效，数据源通知缓存变化（例如，通过WebSocket消息或push通知）。通过TTL的被动失效实现起来更简单，但不能保证即时时效性。主动失效更复杂，但可以使数据保持最新状态，而没有TTL特有的延迟。

TTL如何工作

TTL机制可以通过两种方式实现：绝对到期和相对到期。在绝对到期中，记录存储了具体的失效时间。在相对到期中，记录创建时间和TTL作为间隔被记录，检查通过计算creationTime + TTL > currentTime完成。

在每次对缓存的请求时，系统检查每个记录的TTL。如果TTL已到期，数据被删除或标记为stale，请求被引导到源。为了优化TTL检查，可以使用定时清理（定期删除所有已过期的记录）或懒惰清理（仅在访问记录时删除）。懒惰清理在内存上更高效，因为它不需要后台线程来扫描整个缓存。

在分布式系统中，TTL也用于自动解决冲突。例如，如果两台服务器同时为同一个键写入了不同的值，具有较晚TTL的记录可以被视为优先级。Amazon DynamoDB使用TTL自动删除表中的过期记录——这是内置功能，不需要手动管理。

读取过期数据的策略

为了提高TTL到期后的性能，采用读取过期数据的策略。Stale-while-revalidate—— 立即将过期数据返回给客户端，同时启动后台更新。Stale-if-error—— 如果源暂时不可用，则返回过期数据。Cache-Aside（Lazy Loading）—— 在缓存未命中时，从源加载数据，以新TTL存储在缓存中，然后返回给客户端。每种策略根据数据一致性要求进行选择。

数据缓存中的TTL

在移动应用中，TTL是缓存管理的关键机制。让我们看看TTL决定应用行为和用户体验的主要场景。

HTTP响应的缓存

HTTP协议通过Cache-Control头提供内置TTL机制。max-age指令以秒为单位设置TTL：Cache-Control: public, max-age=3600意味着响应可以缓存1小时。额外的指令s-maxage（用于共享缓存，如CDN）和stale-while-revalidate提供更精细的控制。如果TTL与xpires头重叠，max-age作为更现代的HTTP/1.1标准享有优先级。

图片的缓存

对于图片，TTL可以达到几天，因为内容很少变化。然而，移动应用通常采用混合方法：缩略图的TTL较短（30分钟——帧的时效性），全尺寸图片的TTL较长（7天）。具有HTTP头Cache-Control: immutable的图片在TTL到期之前不应重新请求——这是RFC 8246中对静态资源的优化。这类图片在操作系统层面（URLCache、OkHttp Cache）缓存，无需应用参与。

网络协议中的TTL

在网络中，TTL不是用于缓存，而是用于限制数据包的寿命。每个IP数据包包含一个TTL字段（8比特），每个路由器将其减少1。当TTL达到0时，数据包被丢弃，并向发送者返回ICMP Time Exceeded消息。这防止了网络环路中的无限路由。

DNS中的TTL

DNS记录具有TTL，确定解析器（例如，ISP的DNS缓存）在不咨询授权服务器的情况下可以存储记录多久。典型值：频繁变化的记录为300秒（5分钟），稳定域名为86400秒（24小时）。CDN服务通常设置低TTL（60–300秒）以在故障时快速重定向流量，而静态域名可以有最高7天的TTL。在迁移服务器时，建议先将TTL降低到60秒（迁移前48小时），以便变化快速传播。

会话和令牌中的TTL

在移动应用中，TTL用于管理会话和访问令牌。JWT令牌（JSON Web Tokens）包含exp字段（到期时间），是绝对的Unix到期时间。到期后，刷新令牌用于获取新的访问令牌，无需重新验证。访问令牌的TTL通常为1–24小时，刷新令牌的TTL为7–30天。这是安全（短TTL减少泄露风险）和用户体验（长TTL减少重复登录频率）之间的平衡。

TTL选择策略

选择TTL是一个工程决策，取决于数据类型、时效性SLA和重复请求的成本。让我们看看主要策略。

固定TTL

最简单的方法—— 所有记录都有相同的TTL。例如，将所有API响应缓存5分钟。优点：实现简单、行为可预测。缺点：不考虑不同数据类型的不同变化频率。固定TTL适合所有记录具有相同“新鲜度”的同质数据—— 例如，单个交易所的加密货币汇率。

自适应TTL

TTL根据数据行为动态变化。例如，如果记录在服务器上很少更新，TTL增加；如果频繁更新，TTL减少。实现可以使用HTTP响应头：Age头（响应已在缓存中的秒数）和Date头可以计算剩余寿命。自适应TTL提供更好的命中率，但需要客户端额外的逻辑。

概率到期TTL

Probabilistic Early Expiration (PEE)—— 在给定范围内随机选择TTL的技术。这防止了“盲群效应”（thundering herd），即大量请求同时到期，所有客户端同时访问源。PEE对CDN和高负荷缓存尤其有用：替代单一200秒的TTL，使用240制360秒之间的随机值，从而均匀分配源的负荷。

TTL代码示例

让我们看看在Kotlin中使用绝对到期的带TTL缓存实现。每个记录存储创建时间，并在读取时检查TTL是否已到期。

class TtlCache<K, V>(
    private val defaultTtlMs: Long = 300000L
) {
    private data class Entry<V>(
        val value: V,
        val createdAt: Long = System.currentTimeMillis()
    )

    private val map = ConcurrentHashMap<K, Entry<V>>()

    fun get(key: K): V? {
        val entry = map[key] ?: return null
        if (isExpired(entry)) {
            map.remove(key)
            return null
        }
        return entry.value
    }

    fun put(key: K, value: V, ttlMs: Long = defaultTtlMs) {
        map[key] = Entry(value, createdAt = System.currentTimeMillis() + ttlMs)
    }

    private fun isExpired(entry: Entry<*>): Boolean {
        return System.currentTimeMillis() > entry.createdAt
    }

    fun cleanup() {
        map.entries.removeIf { isExpired(it.value) }
    }
}

Entry类存储值和创建时间 + TTL（绝对到期）。get方法在每次访问时检查是否到期（懒惰清理）—— 过期的记录仅在尝试访问时删除。cleanup方法可以定期从后台线程调用，以批量删除所有过期记录。ConcurrentHashMap确保线程安全，无需锁定整个缓存。

示例：iOS上API响应缓存的TTL

在iOS中，使用URLCache配合memoryCapacity和diskCapacity设置来进行带TTL的缓存很方便。然而，URLCache不支持不同请求的单独TTL。让我们看看一个自定义的NSCache封装器，支持TTL。

final class ApiResponseCache {
    private var cache = NSCache<NSString, CacheEntry>()

    func getResponse(for url: URL) -> Data? {
        guard let entry = cache.object(forKey: url.absoluteString as NSString)
            else { return nil }
        guard entry.expirationDate > Date() else {
            cache.removeObject(forKey: url.absoluteString as NSString)
            return nil
        }
        return entry.data
    }

    func storeResponse(data: Data, for url: URL, ttl: TimeInterval) {
        let entry = CacheEntry(data: data, expirationDate: Date().addingTimeInterval(ttl))
        cache.setObject(entry, forKey: url.absoluteString as NSString)
    }
}

final class CacheEntry: NSObject {
    let data: Data
    let expirationDate: Date
}

在这个实现中，NSCache被用作线程安全的存储。CacheEntry包含Data和expirationDate。在get时检查时间是否到期；如果到期，记录被删除并返回nil。TTL通过TimeInterval以秒为单位设置，并可以根据每个URL不同：API响应的典型值为动态内容120秒，静态数据3600秒。